Cloudflare、1兆パラメータ級オープンモデルを少ないGPUに載せる手法を公開
Cloudflareは、MoonshotのKimi K2.6やZ.aiのGLM 5.2といった重量級オープンモデルをWorkers AIプラットフォームで動かすための最適化手法を公開した。アテンションキャッシュを16ビットではなく8ビットで保存するとコンテキスト容量は2倍の137万トークンになり、トークン当たりコストを約30%下げつつスループットを41%高められる。GLMの重みを4ビットに圧縮すればモデルは705GBから421GBに縮む。ベンチマークでの精度はオリジナルと見分けがつかなかったという。
なぜ重要かAI経済の最前線は、より良いモデルだけではない——同じモデルをより安く動かすことでもある。重量級オープンモデルの運用コストが下がり続ける大きな理由がこうした技術であり、Cloudflareはどのインフラチームでも真似できる形でそれを公開した。
アプリで読む——無料・9言語
関連ニュース
TikTokが見ている動画の中に買い物ボットを入れました。2026-10-06メタの助手はあなたの周りの全員を一時間ごとに記録しています。
2026-10-05一つのコマンドで、アップルが消した停止スイッチが戻る
2026-10-05OpenAIが28日間、毎日の新機能か上限リセットを約束した
2026-10-05メタがMuseの機器を自作できるよう、ファームを公開した。
2026-10-04