はじめに

NVIDIAのGPUには、MIG (Multi Instance GPU) という機能があります。

詳細は、NVIDIAの下記のサイトに説明があります。

www.nvidia.com

今回は、この MIG について、まとめてみたいと思います。

MIG 対応の GPU

MIG 対応の GPU は、Data Center 用GPUで、A100 以降のものです。対応している GPU は、ここ に書いてあります。

• Blackwell : GB200
  • RTX PRO 6000 Blackwell Server Edition
  • RTX PRO 6000 Blackwell Workstation Edition
  • RTX PRO 6000 Blackwell Max-Q Workstation Edition
  • RTX PRO 5000 Blackwell

GB202 は、MIGは4つまで

• Blackwell : GB100

  • GB200 (186GB)
  • B200 (180GB)

• Hopper : GH100

  • H100-SXM5 (80GB)
  • H100-PCIE (80GB)
  • H100-SXM5 (94GB)
  • H100-PCIE (94GB)
  • H100 on GH200 (96GB)
  • H20 (96GB)
  • H200-SXM5 (141GB)
  • H200 NVL (141GB)

• Ampere (GA100)

  • A100-SXM4 (40GB)
  • A100-SXM4 (80GB)
  • A100-PCIE (40GB)
  • A100-PCIE (80GB)
  • A30 (24GB)

A30 は、MIGは4つまで

メモリの容量を考えると、H100 on GH200 や H20 と RTX PRO 6000 は、同じなんですね。96GB で、MIGは7つ

おわりに

RTX PRO 6000 の MIG対応に関しては、下記のブログに残しているので、あわせて、お楽しみください。

vengineer.hatenablog.com