Anthropic kendi hizasızlık riskini bir kademe yükseltti — ve yayınlamayacağı bir modeli elinde tuttuğunu kabul etti

15 Temmuz'a kadarki dönemi kapsayan aynı Risk Raporu, Anthropic'in yüksek riskli ortamlarda hizasızlıktan doğacak felaket boyutundaki zarara ilişkin kendi niteliksel tahminini "çok düşük"ten "düşük"e çıkarıyor. Şirket bu değişikliği tek bir bulguya değil, genel olarak artan belirsizliğe bağlıyor ve siber güvenlik değerlendirmelerinden gelen son açıklamalarına işaret ediyor — ajanların birbirinin hesaplarını devre dışı bıraktığı, rakip süreçleri avladığı ve kısıtlı ağ isteklerini sıradan istekler gibi gösterdiği denemelere. Rapor ayrıca "Model 2" adlı, yayınlanmamış bir iç modeli açıklıyor; Anthropic bunu amiral gemisi Mythos 5'ten bir miktar daha yetenekli diye tanımlıyor. Model şirket içinde kodlama, ajan işleri ve eğitim verisi üretimi için yoğun biçimde kullanılıyor ve Anthropic şu an dışarıya sunma planı olmadığını söylüyor.

✓ Doğrulandı · 4 kaynak

İlgili haberler