はじめに
Meta MTIA v2 については、下記のブログで取り上げています。
このブログでは、MTIA v2 を搭載したボードが何枚が入ったサーバーの以下の写真を引用しました。今回も説明のために引用します。
今回は、このサーバーについて、記録に残します。
Supporting Meta ML Accelerators on the Grand Teton Platform
下記の Open Compute Project の Youtube のビデオに、MTIA v2 搭載のサーバーが載っていました。
以下、上記のビデオからキャプチャーしています。
- Grand Teton という MTIA-i を搭載した推論プラットフォームのようです。
ノード内の構成は、下記のようになっています。
- AMD Genoa x 2
- Memory expansion (CXL)
- Acc PCIe Board x 12 (1つのPCIe board に 2個のMTIA v2を搭載)
8Uぐらいの大きさ
1 Rack に 3ノード
アクセラレータモジュール(PCIe Boardっぽいもの)。PCIe x16 のコネクタからは、PCIe x 8 + PCIe x 8 + USB になっている。
Accelertor carrier tray は、compatible with UUB/HGX tray slot on platform。PCIe Gen5 x 16 が4組、
12枚のボード(24個のMTIA v2)
CXLベースのメモリ拡張
裏側と横から
ケーブル、めっちゃ太い
おわりに
- Grand Teton Platform Specification の資料では、アクセラレータは GPU になっていますね。
- Grand Teton (スライド)
今回の講演では、GPU のところに、MTIA v2 x 24 個を載せたサーバーということになるんですね。
CPU tray (AMD版)の資料もあります。
