Cloudflare、1兆パラメータ級オープンモデルを少ないGPUに載せる手法を公開
Cloudflareは、MoonshotのKimi K2.6やZ.aiのGLM 5.2といった重量級オープンモデルをWorkers AIプラットフォームで動かすための最適化手法を公開した。アテンションキャッシュを16ビットではなく8ビットで保存するとコンテキスト容量は2倍の137万トークンになり、トークン当たりコストを約30%下げつつスループットを41%高められる。GLMの重みを4ビットに圧縮すればモデルは705GBから421GBに縮む。ベンチマークでの精度はオリジナルと見分けがつかなかったという。
なぜ重要かAI経済の最前線は、より良いモデルだけではない——同じモデルをより安く動かすことでもある。重量級オープンモデルの運用コストが下がり続ける大きな理由がこうした技術であり、Cloudflareはどのインフラチームでも真似できる形でそれを公開した。
アプリで読む——無料・9言語
関連ニュース
アップル・ミュージックは機械が作った曲を知らせる——ただし、そう申告するかは投稿者しだい2026-08-21Stripeがモデルルーターに75億ドルを払った。その数日後、Rampは自前のものを作り、1月まで無料で配っている。
2026-08-21Metaのアシスタントは画面を読み、どのウィンドウにも文字を打ち込むMacアプリになった。そして見たものはモデルの学習に使われうる
2026-08-21ニュースサイトでの1クリックが「この媒体をもっと見せて」とGoogleに伝えるようになった。しかも読んでいたページから離れずに
2026-08-21Adobeが音楽もナレーションもドアの閉まる音も生成する——しかも権利処理は済んでいるという
2026-08-21