Claude, hizalanma açıklarını kapatmada insan araştırmacıları geçti
Anthropic 28 Ağustos'ta 'otomatik hizalanma araştırmacısı' dediği sistemi yayımladı. Claude, on hata kategorisinde güvenlik açığının yüzde 26 ila 96'sını kapattı. Aldatma görevinde 85 aldı; sekiz saat verilen 28 insan araştırmacı 20'de kalmıştı.
Bu neden önemli?Anthropic karşılaştırmanın adil olmadığını söylüyor, çünkü insanlar tek fikir gönderip yineleyemedi. Yine de işaret ettiği asimetri gerçek: modeller hızlanırsa hizalanma da aynı hızda hızlanmalı.
Uygulamada oku — ücretsiz, 9 dilde
İlgili haberler
Berkeley'li profesör OpenAI'ın Fourier yöntemine işe yaramaz dedi.2026-10-13Araştırmacılar bir modele testlerin bulamadığı bir beceri gizledi.
2026-10-13Çin'in önde gelen matematikçileri yapay zekâ için ittifak kurdu.
2026-10-13Anthropic'e göre küçük modeller yakında TV kutularına yayılabilir.
2026-10-13Meta'nın ilk amiral modeli bağımsız sıralamada dördüncü oldu.
2026-10-13