Model kendi görevlerini uyduruyor, onları sınayacak düzeneği kendi kuruyor, sonra çıkan sonuçla eğitiliyor — DeepReinforce ağırlıkları da bedava verdi

DeepReinforce 19 Ağustos'ta Ornith-1.5'i üç açık ağırlıklı boyda yayımladı: 397 milyar parametreli bir uzman karışımı, jeton başına 3 milyar parametre çalıştıran 35 milyarlık bir model ve 9 milyarlık yoğun bir model. Hepsi MIT lisanslı, ağırlıklar Hugging Face'te. Asıl ilginç olan boyutlar değil. Model, insanların yazdığı sabit bir görev listesinden öğrenmek yerine görevleri kendi öneriyor; her birini geçerlilik, zorluk ve yenilik açısından puanlıyor; o görevi çalıştıracak iskeleyi kendi yazıyor; sonra ürettiği çözüm denemeleri pekiştirmeli öğrenmeye geri besleniyor. Ekip buna kendi kendine iskele kurmaktan kendi kendini geliştirmeye geçiş diyor. Laboratuvarın kendi verdiği rakamlara göre 397B modeli Terminal-Bench 2.1'de 86,1 ve DeepSWE'de 56,0 alıyor; Claude Opus 4.8 aynı testlerde 85,0 ve 59,0, GLM-5.2 ise 82,7 ve 46,2. GPQA Diamond'da 92,8 bildiriliyor. Bağlam penceresi 262.144 jeton; model BF16 biçiminde yaklaşık 800 gigabayt, yani buradaki açıklık dizüstünüzde çalışacağı anlamına gelmiyor. Onu yapan sürüm, Terminal-Bench 2.1'de 47,0 ve SWE-bench Verified'da 70,6 alan 9B.

✓ Doğrulandı · 4 kaynak

İlgili haberler