はじめに
下記のブログにて、Groq の 2nd Gen System と 3rd gen System を妄想してみました。
この時点では、開発するのは、V2 LPU で、その V2 LPU を使ったのが、3rd Gen System と
2nd Gen System では、現在の GroqNode に載っている AMD EPYC x 2 を CPU + FPGA に置き換えるだけなのかな?と思っていました。
しかしながら、GroqのCarrersを覗いてみたら、いや、ちょっと違うのでは?と思えることが出ていました。
それは、2nd Gen System の CPU は、独自開発のSoCじゃないかと。
ということで、
Let's 妄想
Post Silicon Validation Leader/Engieer
この Post Silicon Validation Leader の中に、下記の内容がありました。

この Post Silicon Validation Engineer の中に、下記の内容がありました。

このことから、CPUを独自に開発しているかもしれません。
Staff FPGA Design Engineer

FPGA design for next generation LPU-based systems
とありますので、2nd Gen System のことを言っているのだとおもいます。
おわりに
2nd Gen System は、下図のように、

- CPU
- FPGA x 2
- LPU x 4
で、
-GbE x 2 - Chip間 x 8
になっています。現状の GroqNode の半分の数の LPU です。GroqNodeは、4Uですが、2nd Gen System は 1Uだと思います。GroqNode相当になると、1つ必要になりますが、体積は半分になり、1 Rack に搭載できる LPU の数が増やせます。
下記のように、2nd Gen System は 1ノードに 32 LPUになり、1 Rack に4台の 2nd Gen System を搭載するようです。なので、1 Rack には 128個の LPUが搭載できます。GroqRackは72個。

CPUですが、ASSPとして市販されているものってあまりないんですよね。だから、自社で開発しちゃった方がいいかもしれません。
自社で開発すれば、
- CPU
- FPGA (内部は自社)
- LPU
と主要な部品は自社開発となるので、調達も楽になると思います。FPGA部分もASIC化できれば、もっと調達がし易くなると思いますが、なんか理由があるのだと思います。
ということで、今回は、このぐらいで
次回も、Let's 妄想