aiminute. ← Все новости ИИ
Инструменты AI Minute Newsroom 2026-08-04

Cloudflare показал, как умещает открытые модели с триллионами параметров на меньшем числе GPU

Cloudflare показал, как умещает открытые модели с триллионами параметров на меньшем числе GPU

Cloudflare опубликовал приёмы, с помощью которых обслуживает тяжеловесные открытые модели вроде Kimi K2.6 от Moonshot и GLM 5.2 от Z.ai на платформе Workers AI. Хранение кеша внимания в 8 битах вместо 16 удваивает ёмкость контекста до 1,37 млн токенов и даёт на 41% большую пропускную способность при примерно на 30% меньшей цене за токен; сжатие весов GLM до 4 бит уменьшает модель с 705 ГБ до 421 ГБ. Точность на бенчмарках, по словам компании, неотличима от оригиналов.

Почему это важноПередний край экономики ИИ — не только лучшие модели, но и более дешёвый запуск тех же самых моделей. Именно такие приёмы — важная причина, почему тяжёлые открытые модели дешевеют в эксплуатации, и Cloudflare выложил их открыто: любая инфраструктурная команда может повторить.

✓ Проверено · 1 источников

WhatsApp X Telegram
Читайте в приложении — бесплатно, 9 языков

Похожие новости

Исследователи заявили, что вывели переписку из агента Muse от Meta.
2026-11-22
Общее рабочее пространство ChatGPT Space открывают для Plus.
2026-11-21
Signal закрыл чаты от встроенных в телефон ИИ-ассистентов.
2026-11-20
OpenAI открыла разработчикам свою новейшую голосовую модель.
2026-11-20
Gemini теперь умеет сам кликать и печатать на вашем Mac.
2026-11-20