Cloudflare, trilyon parametreli açık modelleri daha az GPU'ya nasıl sığdırdığını anlattı
Cloudflare; Moonshot'ın Kimi K2.6'sı ve Z.ai'ın GLM 5.2'si gibi ağır sıklet açık modelleri Workers AI platformunda sunarken kullandığı yöntemleri yayımladı. Dikkat önbelleğini 16 bit yerine 8 bit saklamak bağlam kapasitesini iki katına, 1,37 milyon jetona çıkarıyor ve jeton başına kabaca %30 daha düşük maliyetle %41 daha yüksek işlem hacmi sağlıyor; GLM'in ağırlıklarını 4 bite sıkıştırmak ise modeli 705 GB'tan 421 GB'a küçültüyor. Şirkete göre karşılaştırma testlerindeki doğruluk, orijinallerden ayırt edilemedi.
Bu neden önemli?Yapay zekâ ekonomisinin sınırı yalnızca daha iyi modeller değil — aynı modelleri daha ucuza çalıştırmak. Ağır sıklet açık modellerin işletme maliyetinin sürekli düşmesinin büyük nedeni bu tür teknikler; üstelik Cloudflare bunları her altyapı ekibinin kopyalayabileceği şekilde açıkça yayımladı.
Uygulamada oku — ücretsiz, 9 dilde
İlgili haberler
Apple Music bir şarkının makine yapımı olduğunu size söyleyecek — ama söyleyip söylememeye yükleyen karar veriyor2026-08-21Stripe bir model yönlendiricisine 7,5 milyar dolar ödedi. Günler sonra Ramp kendi yönlendiricisini yapıp ocağa kadar bedava dağıtıyor.
2026-08-21Meta'nın asistanı artık ekranınızı okuyup herhangi bir pencereye yazabilen bir Mac uygulaması — ve gördüğü şey modeli eğitebiliyor
2026-08-21Bir haber sitesinde tek tık artık Google'a "bana bundan daha çok göster" diyor — üstelik okuduğunuz sayfadan ayrılmadan
2026-08-21Adobe artık müziği de, seslendirmeyi de, kapı çarpma sesini de üretiyor — ve lisansın sizi koruduğunu söylüyor
2026-08-21