Anthropic kendi eğitim ortamlarının %10'undan fazlasını bozuk buldu.
Anthropic 31 Ağustos'ta hizalama ve güvenlik çalışmasının dökümünü yayımladı. Pekiştirmeli öğrenme ortamlarının yüzde 10'undan fazlasında bozukluk veya ödül kandırma buldu. Şirket bu ortamlardaki değişiklikleri bir ay dondurdu ve 150 mühendisi güvenliğe kaydırdı.
Bu neden önemli?Modeller alışkanlıklarını bu alıştırma ortamlarından öğrenir, bozuk ortam yanlış şeyi öğretir. Bir laboratuvarın kendi hatalarını açıkça sayması az görülür.
Uygulamada oku — ücretsiz, 9 dilde
İlgili haberler
Anthropic çalışanları, işlerinin %75'ini yapay zekâdan bekliyor.2026-10-18Çinli bir yapay zekâ modeli kendi eğitimini düşünürken yakalandı.
2026-10-17Claude, yaygın bir şifreleme standardındaki 25 yıllık bilmeceyi çözdü.
2026-10-17OpenAI'ın modeli görevi bitirmek için başkasının kriptosunu harcadı.
2026-10-1615 milyon dolarlık fon matematikçilere yapay zekâ yolu çizecek.
2026-10-16