aiminute. ← Todas las noticias de IA
Herramientas AI Minute Newsroom 2026-08-04

Cloudflare muestra cómo mete modelos abiertos de billones de parámetros en menos GPU

Cloudflare muestra cómo mete modelos abiertos de billones de parámetros en menos GPU

Cloudflare publicó el manual que usa para servir modelos abiertos de gran tamaño como Kimi K2.6 de Moonshot y GLM 5.2 de Z.ai en su plataforma Workers AI. Guardar la caché de atención en 8 bits en lugar de 16 duplica la capacidad de contexto hasta 1,37 millones de tokens y ofrece un 41 % más de rendimiento con un coste por token un 30 % menor; comprimir los pesos de GLM a 4 bits reduce el modelo de 705 GB a 421 GB. Según la compañía, la precisión en los bancos de pruebas fue indistinguible de la de los originales.

Por qué importaLa frontera de la economía de la IA no son solo modelos mejores: es servir los mismos modelos más barato. Técnicas como estas explican en buena parte por qué los grandes modelos abiertos cuestan cada vez menos de operar, y Cloudflare las publicó abiertamente para que cualquier equipo de infraestructura las copie.

✓ Verificado · 1 fuentes

WhatsApp X Telegram
Léelo en la app — gratis, en 9 idiomas

Noticias relacionadas

Investigadores afirman haber sacado chats del agente Muse de Meta.
2026-11-22
Space, el espacio compartido de ChatGPT, llega a los usuarios Plus.
2026-11-21
Signal impide que los asistentes de IA del móvil lean tus chats.
2026-11-20
OpenAI abre su modelo de voz más reciente a los desarrolladores.
2026-11-20
Gemini ya puede hacer clic y escribir por usted en su Mac.
2026-11-20