Araçlar
AI Minute Newsroom
2026-08-23
300 milyon parametrelik bir model, büyüğünün ne diyeceğini tahmin ediyor — ve MacBook 2,87 kat hızlı yanıt veriyor
Liquid AI 20 Ağustos'ta DSpark'ı yayımladı: her biri yaklaşık 300 milyon parametrelik küçük taslak modeller, LFM2.5 ailesiyle birebir eşleşiyor — 1,2B Instruct, 2,6B ve 8B-A1B. Taslak, dokuz tokenlik bir blok öneriyor; asıl model bloğun tamamını tek bir ileri geçişte denetliyor ve katılmadığı her şey atılıyor. Açgözlü (greedy) çözümlemede çıkan metin, büyük modelin tek başına ürettiğiyle birebir aynı; dolayısıyla kıyaslama doğruluğu hiç değişmiyor. Değişen şey zaman: H100'de 3,18 kata, M4 Max MacBook Pro'da 2,87 kata varan hızlanma; 2,6B modeli o dizüstünde saniyede yaklaşık 140 tokenin üzerine çıkıyor ve çok araçlı testlerde gecikme ortalama yüzde 57 düşüyor. Püf noktası kabul oranında. MATH500 kıyaslamasında 8B-A1B taslağının önerdiği her 10 tokenden 8,27'si kabul ediliyor; bu 3,18 kat demek. GSM8K'de ise 4,02 kabul ediliyor, yani 1,29 kat — aynı donanım, aynı model, kazancın yaklaşık üçte biri.
Bu neden önemli?Spekülatif çözümleme, yanına kalite tartışması iliştirilmeyen ender iyileştirmelerden biri: çıktının aynı metin olduğu kanıtlanabiliyor, dolayısıyla tek soru küçük modelin ne sıklıkta doğru tahmin ettiği. Bu da size satılan herhangi bir hızlanma rakamına inanmadan önce anlamaya değer bir konu yapıyor. '3 kat hızlı' diyen bir satıcı, kendi en iyi iş yükünü söylüyordur; sizin ne alacağınıza sizin iş yükünüz karar verir ve buradaki 3,18 ile 1,29 arasındaki mesafe dersin tamamıdır. En çok da modelleri API üzerinden değil kendi makinesinde çalıştıranları ilgilendiriyor: bu tür bir değişim, yerel bir modeli 'uğraşmaya değmeyecek kadar yavaş'tan 'açık bırakılacak kadar hızlı'ya taşır.
✓ Doğrulandı · 2 kaynak
Uygulamada oku — ücretsiz, 9 dilde
İlgili haberler
Araştırmacılar Meta'nın Muse ajanından sohbet sızdırdığını öne sürdü.
2026-11-22ChatGPT'nin ortak çalışma alanı Space, Plus abonelerine açılıyor.
2026-11-21Signal telefondaki yapay zekâ asistanlarına sohbetleri kapattı.
2026-11-20OpenAI en yeni ses modelini geliştiricilere açtı.
2026-11-20Gemini artık Mac'inizde sizin yerinize tıklayıp yazabiliyor.
2026-11-20