aiminute. ← Todas las noticias de IA
Herramientas AI Minute Newsroom 2026-08-04

Swiftlet mete un modelo de 80.000 millones de parámetros en 4,3 GB de RAM — y uno de 35B en un iPhone

Swiftlet mete un modelo de 80.000 millones de parámetros en 4,3 GB de RAM — y uno de 35B en un iPhone

Un nuevo runtime de código abierto en Swift y Metal llamado Swiftlet transmite bajo demanda los pesos de mezcla de expertos desde el disco: las capas de atención, los enrutadores y una caché de 'expertos' de uso frecuente permanecen en memoria mientras el resto se lee del almacenamiento. El resultado: Qwen3-Next-80B corre en un Mac M5 con unos 4,3 GB de RAM a 4,5-5 tokens por segundo, y un modelo de 35B funciona en un iPhone 17 a aproximadamente un token por segundo. Hay contrapartidas: el modelo grande exige 42 GB de disco libre, y el autor advierte de que estos modelos dispersos 'conversan como modelos grandes pero recuerdan hechos como modelos pequeños'. El proyecto llegó a lo más alto de Hacker News y superó las 280 estrellas en GitHub en un día.

Por qué importaEl muro de memoria — no el chip — era la razón por la que los modelos grandes no corrían en dispositivos de consumo. Si el streaming de expertos se sostiene, el hardware que ya posees accede a una clase de modelos que hasta ahora exigía una estación de trabajo con GPU, algo que importa para la privacidad, el uso sin conexión y quien no puede pagar llamadas de API.

✓ Verificado · 2 fuentes

WhatsApp X Telegram
Léelo en la app — gratis, en 9 idiomas

Noticias relacionadas

Investigadores afirman haber sacado chats del agente Muse de Meta.
2026-11-22
Space, el espacio compartido de ChatGPT, llega a los usuarios Plus.
2026-11-21
Signal impide que los asistentes de IA del móvil lean tus chats.
2026-11-20
OpenAI abre su modelo de voz más reciente a los desarrolladores.
2026-11-20
Gemini ya puede hacer clic y escribir por usted en su Mac.
2026-11-20