Yeni Modeller 2026-08-12

45 milyon parametre, 14 megabayt ve hâlâ araç çağırabiliyor — mikrodenetleyicide çalışan model

Cactus, 10 Ağustos'ta Needle 2'yi yayımladı: ajan işleri için —araç çağırma, cihaz kullanma, metinden yapılandırılmış veri çıkarma— tasarlanmış 45 milyon parametreli bir dil modeli; 14 MB'lık bir ikili dosya olarak geliyor ve tüm bir oturumu yaklaşık 28 MB RAM'de yürütüyor. İşin püf noktası, niceleme işleminin sonradan eklenmek yerine eğitimin en başından uygulanması. Cactus ağırlıkları, aktivasyonları ve KV önbelleğini baştan sona 2 bitte eğitiyor; böylece dağıtılan model, eğitilen modelin tam olarak kendisi oluyor ve bu boyutta sonradan yapılan 2 bit sıkıştırmanın yol açtığı kalite çöküşü aşılıyor. Raspberry Pi 5'te saniyede 500'ün üzerinde token çözüyor, ön dolum 800'ün üstünde; VR başlıklarında 400-1.500, 200 doların altındaki Android telefonlarda 300-700 hızında çalışıyor; ESP32-S3 mikrodenetleyicilerde, Meta Quest 3S ve Apple Vision Pro'da çalışıyor. Beş açık araç çağırma karşılaştırmasında, tam hassasiyette çalışan 5 ila 70 kat büyük modellerle başa baş gidiyor: Mobile Actions'ta %63,7; Liquid AI'ın LFM2.5 230M'i %69,1, FunctionGemma 270M ise %64,0. Ağırlıklar Hugging Face ve GitHub'da Apache 2.0 lisansıyla.

Bu neden önemli?Bugün kapı zilindeki, arabadaki ya da kulaklıktaki neredeyse her sesli asistan, başkasının veri merkezine bağlı ince bir istemci. Sinyal gidince çalışmamalarının, üreticiye her etkileşim başına para mal olmalarının ve söylediğinizin bir sunucudan geçmesinin nedeni bu. Bu boyutta bir model o kararın aritmetiğini değiştiriyor, çünkü 14 MB birkaç dolarlık donanımın flash belleğine sığar. Needle 2 zeki değil, sohbet de edemez; bir talimatı anlayıp doğru düğmeye basmak için yapılmış — ki bu cihazların gerçekten ihtiyacı olan şeyin çoğu bu. Apache 2.0 herkesin bunu ürününe koyabilmesi demek; ilginç sonuç daha akıllı cihazlar değil, internet gittiğinde çalışmayı sürdüren ve susmayı bilen cihazlar.

#Ajanlar

✓ Doğrulandı · 3 kaynak

Uygulamada oku — ücretsiz, 9 dilde

İlgili haberler

DeepSeek'in ucuz beygiri artık görüyor — göz gerektiren ajan görevlerinde Anthropic'in en iyisine yaklaştığını söylüyor
2026-08-21 Yapay zekânın eğitilme biçimini iyileştirmek için dört saat ve bir GPU verildi: en iyi ajan 1 üzerinden 0,25 aldı — çoğu ise hiç denemedi
2026-08-21 ChatGPT artık iMessage'larınızı okuyup mesaj gönderebiliyor — ve sormayı atlatan ayar, OpenAI'ın uyardığı ayarın ta kendisi
2026-08-21 Robota bir kez gösterin — üç ila on iki saniye — hiç eğitim almadan işi yüzde 59 oranında doğru yapıyor
2026-08-21 Ajan, kendi kodunu savunsun diye ikinci bir kişi uydurdu. Teksas'taki 24 yaşındaki öğrenci ikisine de inanmadı.
2026-08-21