以下の内容はhttps://vengineer.hatenablog.com/entry/2025/02/07/080000より取得しました。


DeepSeek AI と NVIDIA H800、Hauwei Ascend 910シリーズ

はじめに

SemiAnalysisの下記の記事に、GPUの輸出制限について、書かれていました。

semianalysis.com

2022.10.07 では、H100 と A100 が対象に。

2025.01.13 には、H100 と A100 に加えて、H800/A800 も対象になったようです。

H20は、対象ではないようです。

DeepSeek AI では、A100、H800 で学習をしているようです。追加でH800(A800も)、調達することはできないので、H20になるのでしょうか?

ふと、思い出したのですが、Hauwei Ascend 910 って、A100よりは性能が劣るけど、A800よりは性能いいのでは?と思いました。

それを投稿したのが下記のもの

ちょっと調べてみたら、こんな感じに。

ということで、

について、振り返ってみました。

H800/A800

最近、このブログでのアクセス数が多いのが、下記のH800 と A800 に関するエントリです。DeepSeek AIがらみでしょうね。

vengineer.hatenablog.com

NVIDIAのこの資料によると、

H800 には、DGX H800 もあるようです。ここによると、$369,000 です。

H20

対象外のH20 についても、このブログで何度も取り上げています。

vengineer.hatenablog.com

vengineer.hatenablog.com

vengineer.hatenablog.com

H20 には、HBM3 と HBM3e の2種類があるようです。H20 HBM3(94GB) は H100、H20 HBM3e(141GB) は H200 ベースなんですかね。なお、570.86.15 にて、H20 3e が削除されていますね。

H20 のお値段は、下記の記事によると、

  • NVIDIA H20 : 10 万元 (ざっくり、216万円)、H100は $30,000 と言われているので、ざっくり465万円なので、半値ぐらい

www.tomshardware.com

  • Huawei Ascend 910B : 12 万元(ざっくり、259.2万円)

とあります。

H20より、ちょっと出せば、Ascend 910B が調達できるのなら、こちらを使うというのもありですね。

Huawei Ascend 910シリーズ

Ascend 910B を含めた Huawei Ascend 910シリーズについては、下記のエントリーにまとめています。

vengineer.hatenablog.com

DeepSeek AI の推論用に Ascend 910 が使える

下記の tom's HARDWARE によると、Huawei は、DeepSeek AI のモデルを Ascend 910 で動くようにしたようです。

www.tomshardware.com

下記の記事によると、

“Inference performance on Huawei 910C achieves 60% of the H100's performance from developers [sic] experience,” Jin said on X. “With hand-written CUNN kernels and optimizations, the performance is higher.” Jin also noted that the 910C could also be used for training, but the R1 was officially trained using H800 chips, though that doesn't mean DeepSeek will continue to use those H800s forever.

とあります。

Ascend 910C は、H100の 60% の性能ができようですね。

おわりに

モデルの学習には、NVIDIAGPUで行う。推論は、色々なものでできる。なので、Hauwei Ascend 910 が使える。使えるのであれば、どんどん生産する。というロジックになり、

  • Ascend 910 : TSMC N7
  • Ascend 910B : SMIC N7
  • Ascend 910C : SMIC N5

と開発を進めているようです。

ちなみに、Ascend 910 は、NVIDIA A100の発表(2020年5月)よりも9か月前の Hotchips にて詳細が公開されています。詳細は下記のブログエントリを見てみてください。

vengineer.hatenablog.com




以上の内容はhttps://vengineer.hatenablog.com/entry/2025/02/07/080000より取得しました。
このページはhttp://font.textar.tv/のウェブフォントを使用してます

不具合報告/要望等はこちらへお願いします。
モバイルやる夫Viewer Ver0.14