Nuevos Modelos 2026-08-12

45 millones de parámetros, 14 megabytes, y aun así llama a herramientas: el modelo que cabe en un microcontrolador

Cactus publicó Needle 2 el 10 de agosto: un modelo de lenguaje de 45 millones de parámetros pensado para trabajo de agente —llamar herramientas, manejar un dispositivo, extraer datos estructurados de un texto— que se distribuye como un binario de 14 MB y ejecuta una sesión entera en unos 28 MB de RAM. El truco es aplicar la cuantización desde el inicio del entrenamiento en lugar de añadirla después. Cactus entrena pesos, activaciones y caché KV a 2 bits de principio a fin, de modo que el modelo desplegado es exactamente el que se entrenó, esquivando el desplome de calidad que la compresión a 2 bits posterior provoca en este tamaño. Decodifica a más de 500 tokens por segundo en una Raspberry Pi 5, con prellenado por encima de 800; alcanza 400–1.500 en visores de realidad virtual y 300–700 en móviles Android de menos de 200 dólares, y funciona en microcontroladores ESP32-S3, Meta Quest 3S y Apple Vision Pro. En cinco pruebas públicas de llamada a herramientas se reparte victorias con modelos de 5 a 70 veces su tamaño a precisión completa: 63,7 % en Mobile Actions frente al 69,1 % del LFM2.5 230M de Liquid AI y el 64,0 % de FunctionGemma 270M. Los pesos están bajo Apache 2.0 en Hugging Face y GitHub.

Por qué importaCasi todos los asistentes de voz que hay hoy en un timbre, un coche o unos auriculares son clientes ligeros del centro de datos de otro: por eso dejan de funcionar sin cobertura, por eso cuestan dinero al fabricante en cada interacción y por eso lo que dices pasa por un servidor. Un modelo de este tamaño cambia esa aritmética, porque 14 MB caben en la memoria flash de un aparato de pocos dólares. Needle 2 no es listo ni sostiene una conversación; está hecho para entender una instrucción y pulsar el botón correcto, que es la mayor parte de lo que estos dispositivos necesitan de verdad. Apache 2.0 significa que cualquiera puede incorporarlo, y la consecuencia interesante no son cacharros más listos, sino cacharros que siguen funcionando, y callados, cuando no hay internet.

#Agentes IA

✓ Verificado · 3 fuentes

Léelo en la app — gratis, en 9 idiomas

Noticias relacionadas

El caballo de batalla barato de DeepSeek ya ve — y en tareas de agente que exigen ojos dice acercarse a lo mejor de Anthropic
2026-08-21 Con cuatro horas y una GPU para mejorar la forma en que se entrena la IA, el mejor agente sacó 0,25 sobre 1 — y la mayoría ni lo intentó
2026-08-21 ChatGPT ya puede leer tus iMessages y enviarlos — y el ajuste que le permite dejar de preguntar es justo el que OpenAI advierte
2026-08-21 Enséñaselo al robot una vez — de tres a doce segundos — y acierta 59 veces de cada 100 sin ningún entrenamiento
2026-08-21 El agente se inventó a una segunda persona para avalar su código. Un joven de 24 años en Texas no creyó a ninguno de los dos.
2026-08-21