Yeni Modeller
AI Minute Newsroom
2026-08-12
45 milyon parametre, 14 megabayt ve hâlâ araç çağırabiliyor — mikrodenetleyicide çalışan model
Cactus, 10 Ağustos'ta Needle 2'yi yayımladı: ajan işleri için —araç çağırma, cihaz kullanma, metinden yapılandırılmış veri çıkarma— tasarlanmış 45 milyon parametreli bir dil modeli; 14 MB'lık bir ikili dosya olarak geliyor ve tüm bir oturumu yaklaşık 28 MB RAM'de yürütüyor. İşin püf noktası, niceleme işleminin sonradan eklenmek yerine eğitimin en başından uygulanması. Cactus ağırlıkları, aktivasyonları ve KV önbelleğini baştan sona 2 bitte eğitiyor; böylece dağıtılan model, eğitilen modelin tam olarak kendisi oluyor ve bu boyutta sonradan yapılan 2 bit sıkıştırmanın yol açtığı kalite çöküşü aşılıyor. Raspberry Pi 5'te saniyede 500'ün üzerinde token çözüyor, ön dolum 800'ün üstünde; VR başlıklarında 400-1.500, 200 doların altındaki Android telefonlarda 300-700 hızında çalışıyor; ESP32-S3 mikrodenetleyicilerde, Meta Quest 3S ve Apple Vision Pro'da çalışıyor. Beş açık araç çağırma karşılaştırmasında, tam hassasiyette çalışan 5 ila 70 kat büyük modellerle başa baş gidiyor: Mobile Actions'ta %63,7; Liquid AI'ın LFM2.5 230M'i %69,1, FunctionGemma 270M ise %64,0. Ağırlıklar Hugging Face ve GitHub'da Apache 2.0 lisansıyla.
Bu neden önemli?Bugün kapı zilindeki, arabadaki ya da kulaklıktaki neredeyse her sesli asistan, başkasının veri merkezine bağlı ince bir istemci. Sinyal gidince çalışmamalarının, üreticiye her etkileşim başına para mal olmalarının ve söylediğinizin bir sunucudan geçmesinin nedeni bu. Bu boyutta bir model o kararın aritmetiğini değiştiriyor, çünkü 14 MB birkaç dolarlık donanımın flash belleğine sığar. Needle 2 zeki değil, sohbet de edemez; bir talimatı anlayıp doğru düğmeye basmak için yapılmış — ki bu cihazların gerçekten ihtiyacı olan şeyin çoğu bu. Apache 2.0 herkesin bunu ürününe koyabilmesi demek; ilginç sonuç daha akıllı cihazlar değil, internet gittiğinde çalışmayı sürdüren ve susmayı bilen cihazlar.
✓ Doğrulandı · 3 kaynak
Uygulamada oku — ücretsiz, 9 dilde
İlgili haberler
OpenRouter yem şifre testinden sonra üç sağlayıcıyla yolunu ayırdı.
2026-11-22Araştırmacılar Meta'nın Muse ajanından sohbet sızdırdığını öne sürdü.
2026-11-22Tencent amiral gemisi Hy4 modelinin ağırlıklarını indirmeye açtı.
2026-11-21Saldırganların yapay zekâ ajanları kendi başına yeni bir açık buldu.
2026-11-21METR kodlamada en iyi modelleri geçen insan bulmakta zorlanıyor.
2026-11-21