ファーウェイは7月31日、openPangu-2.0-Proの重み、推論コード、技術報告書を公開した。5050億パラメータ(トークンあたり約180億が有効)のMoEモデルで、512Kのコンテキストウィンドウを持ち、約34兆トークンで訓練された。際立つのはハードウェアだ:訓練の全工程が自社のAscend NPU上で行われ、Nvidiaのチップは一切使われていない。6月の開発者会議での約束を果たした形だ。
✓ 検証済み · 3ソース