はじめに

Hot Chips 2024にて、Tesla Dojo の Network Chip (100Gbps) の詳細が発表されたようなので、記録に残します。

Tesla Dojo の振り返り

Tesla AI Day 2022にて、Tesla Dojoの詳細が公開されました。

この中で、下記の図の中のDNICが今回の Network Chip だと思います。

左側の DIP (Dojo Interface Processor )には、TTP OVER ETHERNET (TTPOE) が付いていて、そこから出たものがSwitch経由で右側のDNICに繋がります。そのようすが下図になります。こちらも説明のために引用します。

下図は上記の記事の中にあるものです。説明のために引用します。

PCIe Gen3 x16 = 8Gbps x 16 = 128Gbps なので、100Gbps をサポートできます。

下記の記事では、上記のCardにHeat Sinkやケーブルが接続されているものがあります。 www.servethehome.com

説明のために引用します。

Tesla Dojoは、100Gbps の TTP OVER ETHERNET (TTPOE)を使って、HostおよびDojoと接続しているようです。

下図(説明のために引用します)によると、1個のDojoから 1Tbps TTP が出ているようです。これは、DIP (Dojo Interface Processor) が 10個あり、各DIPから100Gbpsが1個出ているからです。

Forward Passのデータは、Host => NIC => TTP Network => DIP => D1 SOW で流れ、Backward Passのデータは、DIP => TTP Network 経由で他のDIPに流れていく感じになっているようです。

下図は、TTPoE の部分の写真です。ネットワークだけなんですね。凄いです。

Tesla Dojo、アクセラレータ部分だけでなく、ネットワーク部分も凄いですね。。。。