NVIDIA L40S データセンターにおけるAIやグラフィックスのワークロードに最適化 GPUアクセラレータ｜900-2G133-0080-000

Ada LovelaceアーキテクチャベースのGPU搭載。データセンターにおけるAIやグラフィックスのワークロードに最適化された強力なGPUアクセラレータ

[特徴]
・NVIDIA Ada Lovelaceアーキテクチャを採用したL40S GPU
・PCI Express 4.0 x16接続に対応
・大容量なECC付き48GB GDDR6メモリを搭載
・2スロットのパッシブ空冷クーラーを搭載
・AIモデルのトレーニングを高速化するTransformer Engineを搭載
・大規模言語モデル（LLM）を高速化
・NEBS Level 3に対応し、24時間稼働するデータセンターに最適

NVIDIA Ada Lovelaceアーキテクチャを採用

第4世代Tensorコアや第3世代RTコアなどを搭載したNVIDIA Ada Lovelaceアーキテクチャを採用しています。Tensorコアを利用したTransformer Engineにより、AIパフォーマンスを劇的に加速します。

レイトレーシングを加速する第3世代RTコア

第3世代RTコアはレイトレーシングをシェーディングを同時実行する機能を備えており、製品設計やエンジニアリング等のワークフローを高速化します。

24時間稼働のデータセンターに最適

NVIDIA L40S GPUは24時間動作し続けるデータセンターでの運用に最適化、設計されています。「Network Equipment-Building System (NEBS)」 のLevel 3に対応しており、ルート オブ トラスト テクノロジーによるセキュア ブートで高いセキュリティも提供します。

[仕様]

製品名	NVIDIA L40S
GPUアーキテクチャ	NVIDIA Ada Lovelace
GPUメモリー	48GB GDDR6 ECC付き
メモリー帯域幅	864GB/s
インターコネクトインターフェース	PCIe Gen4 x16: 64GB/s 双方向
NVIDIA CUDAコア数	18,176
NVIDIA 第4世代 Tensorコア	568
NVIDIA 第3世代 RTコア	142
RTコア性能（TFLOPS）	212
FP32（TFLOPS）	91.6
TF32 Tensorコア（TFLOPS）	183 | 366 ※1
BFLOAT16 Tensorコア（TFLOPS）	362.05 | 733 ※1
FP16 Tensorコア（TFLOPS）	362.05 | 733 ※1
FP8 Tensorコア（TFLOPS）	733 | 1,466 ※1
ピーク INT8 Tensor（TOPS）	733 | 1,466 ※1
ピーク INT4 Tensor（TOPS）	733 | 1,466 ※1
フォームファクター	4.4(H)×10.5(L)inch,デュアルスロット
ディスプレイポート	DisplayPort 1.4a×4
最大消費電力	350W
電源コネクター	16pin
サーマル	パッシブ
仮想GPU（vGPU）ソフトウェア対応	対応
vGPUプロファイル対応	仮想GPUライセンスガイドを参照
NVENC / NVDEC	3x / 3x（AV1 Encode&Decodeを含む）
ルートオブトラスト対応セキュアブート	対応
NEBS準拠	Level 3
MIGサポート	非対応
NVLinkサポート	非対応
型番	900-2G133-0080-000
JANコード	4537694340861
発売時期	2023年 9月

※1 疎性あり。仕様は疎性なしで半減します。