はじめに

NVIDIA GB200 については、このブログでも何度も取り上げています。

例えば、これとか。

vengineer.hatenablog.com

今回は、NVIDIA DGX GB200 User Guide なるものを見つけたので、記録に残します。

NVIDIA DGX GB200 User Guide

• NVIDIA DGX GB200 User Guide

下記の図は、上記の「hNVIDIA DGX GB200 User Guide」から 説明のために引用します。

Rack

GB200 Rack

• 2 x Management top of rack Ethernet switches
• 4 x Power shelves
• 10 x Compute Nodes
• 9 x NVLink switches
• 8 x Copute Nodes
• 4 x Power shelves
• Seismic bracing

Rack をバラバラにしたもの

Compute Tray

• 2x Grace™ CPUs and 4x Blackwell™ GPUs
• Network
  • 4x NVIDIA ConnectX-7 single port 400G OSFP NIC
  • 2x NVIDIA BlueField-3 DPU, dual port 400G Infiniband or Ethernet
  • 1x 1GbE x RJ45 from the compute tray BMC module
  • 2x 1GbE x RJ45 from the BlueField-3 BMC interface
• Storage
  • Data cache 4x 3.84TB E1.S NVMe per compute tray with software RAID 0
  • Boot drive 1x 1.92TB M.2 NVMe

Compute Tray と NVLink Switch Tray の接続

Compute Tray を上から見たもの

Compute Tray の Front から見たもの

NVLink Switch Tray

1つの Tray に、2つの NVLink Switch

おわりに

User Guide が公開されたので、今後は、これを見れば、OKですね。

いずれ、DGX GB300 も 公開されると思います。