Cloudflare公开秘诀：如何把万亿参数开源模型塞进更少的GPU
Cloudflare公开了在其Workers AI平台上运行月之暗面Kimi K2.6、智谱GLM 5.2等重量级开源模型的优化手册。把注意力缓存从16位改为8位存储，上下文容量翻倍至137万token，吞吐量提高41%，每token成本降低约30%；把GLM的权重压缩到4位，模型体积从705GB缩至421GB。公司称，优化后模型在基准测试中的准确率与原版难以区分。
为什么重要?AI经济学的前沿不只是更好的模型——还有更便宜地运行同样的模型。重量级开源模型的运行成本不断下降，这类技术是重要原因；而且Cloudflare把它们公开发表，任何基础设施团队都能照抄。
在App中阅读——免费，9种语言
相关新闻
TikTok把购物机器人放进了你正在看的视频里。2026-10-06Meta的助手给你生活里每个人都建了按小时更新的档案。
2026-10-05一条命令就把苹果删掉的 AI 关闭开关找回来
2026-10-05OpenAI 承诺28天每天上新，做不到就重置额度
2026-10-05Meta开源了固件，让你自己造一台Muse设备。
2026-10-04