aiminute. ← 全部AI新闻
工具 AI Minute Newsroom 2026-08-04

Cloudflare公开秘诀:如何把万亿参数开源模型塞进更少的GPU

Cloudflare公开秘诀:如何把万亿参数开源模型塞进更少的GPU

Cloudflare公开了在其Workers AI平台上运行月之暗面Kimi K2.6、智谱GLM 5.2等重量级开源模型的优化手册。把注意力缓存从16位改为8位存储,上下文容量翻倍至137万token,吞吐量提高41%,每token成本降低约30%;把GLM的权重压缩到4位,模型体积从705GB缩至421GB。公司称,优化后模型在基准测试中的准确率与原版难以区分。

为什么重要?AI经济学的前沿不只是更好的模型——还有更便宜地运行同样的模型。重量级开源模型的运行成本不断下降,这类技术是重要原因;而且Cloudflare把它们公开发表,任何基础设施团队都能照抄。

✓ 已核实 · 1个来源

WhatsApp X Telegram
在App中阅读——免费,9种语言

相关新闻

研究人员称攻破Meta的Muse智能体并取走聊天记录。
2026-11-22
ChatGPT的共享工作区Space开始向Plus用户开放。
2026-11-21
Signal默认阻止手机AI助手读取聊天内容
2026-11-20
OpenAI向开发者开放最新语音模型
2026-11-20
Gemini现在可以在你的Mac上代你点击和输入。
2026-11-20