Qwen4 プレビューが公開：1トークンあたり有効パラメータは60億、アリババ自身の表では実際のバグ修正で Opus 4.6 を上回る
アリババの Qwen チームが、今朝カウントダウンを掲げていた Qwen3.8-Flash-Next の重みを公開した。マルチモーダルな混合エキスパート（MoE）モデルで、本体ネットワークが1250億パラメータ、これに510億パラメータの n-gram 埋め込みテーブルと40億パラメータのマルチトークン予測層が加わる。BF16 で合計約1800億、うち1トークンあたり有効になるのはおよそ60億だ。アーキテクチャは新規で、Gated DeltaNet と Qwen Sparse Attention のハイブリッド、512エキスパート（ルーティング10＋共有1）、ゲート付き残差、Muon と AdamW を併用する学習レシピを採る。コンテキストはネイティブで262,144トークン、100万まで拡張可能。Qwen 自身が公開した表では SWE-bench Pro が62.5（Claude Opus 4.6 Max は53.4）、SWE-bench Multilingual が81.0（対77.5）、DeepSWE 1.1 が58.7 ——いずれも同社の環境による同社の数値で、第三者による再現はまだない。学習コストは Qwen3.7-Plus の約9分の1だという。重みは qwen-community-1.0 ライセンスで Hugging Face と ModelScope に置かれ、131ファイル・約360GB、メモリを半減させる FP8 版もある。Qwen はこれを Qwen4 が土台とするアーキテクチャの早期プレビューと位置づけ、ホスト版は入力100万トークンあたり0.16ドル、出力100万トークンあたり0.47ドルで続くとしている。
なぜ重要か効いてくる数字は62.5ではなく、60億のほうだ。1トークンあたり60億パラメータしか点灯しないモデルは、大型モデルの知識を抱えたまま小型モデルに近い速度で動く。FP8 版がラックではなく十分な性能の1台のワークステーションに収まるのはそのためだ。コーディングのスコアが独立した検証に耐えるなら、フロンティア研究所から借りるものと自前で動かせるものの差はまた縮む——しかも、実際に金がかかる軸、つまりワットあたり毎秒トークン数で縮む。留意点は明快で、これらは重みと同日に出た開発元自身のベンチマークであり、誰もがまず検証すべき数字だということだ。
アプリで読む——無料・9言語
関連ニュース
6日間で42兆トークンを処理した無名モデルに持ち主が現れた：Z.ai が Ox Alpha を自社の GLM だと認め、重みを公開へ2026-08-26あなたが打つのをやめたあとも考え続けるエージェント——しかもハーネス全体が1万行未満のBashだ
2026-08-26十分かかる作業の動画を一度見せれば、ロボットがその十分の作業をやり遂げる——再学習も、打ち込む指示もいらない
2026-08-26アリババがQwen4の最初のピースにカウントダウンを設置——重みは今夜、北京時間23時に公開
2026-08-26アリババが Qwen4 アーキテクチャのプレビューと称するモデルのページを公開した——日付は 8 月 26 日、仕様はいったん載って、すぐ消えた
2026-08-25