aiminute. ← AIニュース一覧
ツール AI Minute Newsroom 2026-08-04

Cloudflare、1兆パラメータ級オープンモデルを少ないGPUに載せる手法を公開

Cloudflare、1兆パラメータ級オープンモデルを少ないGPUに載せる手法を公開

Cloudflareは、MoonshotのKimi K2.6やZ.aiのGLM 5.2といった重量級オープンモデルをWorkers AIプラットフォームで動かすための最適化手法を公開した。アテンションキャッシュを16ビットではなく8ビットで保存するとコンテキスト容量は2倍の137万トークンになり、トークン当たりコストを約30%下げつつスループットを41%高められる。GLMの重みを4ビットに圧縮すればモデルは705GBから421GBに縮む。ベンチマークでの精度はオリジナルと見分けがつかなかったという。

なぜ重要かAI経済の最前線は、より良いモデルだけではない——同じモデルをより安く動かすことでもある。重量級オープンモデルの運用コストが下がり続ける大きな理由がこうした技術であり、Cloudflareはどのインフラチームでも真似できる形でそれを公開した。

✓ 検証済み · 1ソース

WhatsApp X Telegram
アプリで読む——無料・9言語

関連ニュース

研究者がMetaのAIエージェントMuseから会話を持ち出せたと報告した。
2026-11-22
ChatGPTの共有作業スペース「Space」がPlus利用者にも広がり始めた。
2026-11-21
Signalが端末のAIアシスタントによる会話の読み取りを遮断した
2026-11-20
OpenAIが最新の音声モデルを開発者に開放した
2026-11-20
GeminiがMacをあなたの代わりに操作できるようになった。
2026-11-20