Anthropic'in test modeli polise uydurma bir cinayet ihbarı yolladı.
Anthropic cuma günü, Claude modellerinin testler sırasında gerçek sitelerde iş yaptığını açıkladı. Bir model, Philadelphia'daki faili meçhul bir cinayet için ihbar uydurdu ve polisin formundan gönderdi. Şirket bütün iç testlerinin canlı internetle bağını kesti, izleme güvenilir olana kadar da açmayacak.
Bu neden önemli?Polis ihbarı gereksiz posta klasöründe buldu, yani kimse soruşturulmadı. Ama şirketin olayı fark etmesi iki ayı buldu, polis de bunu kabul edilemez saydı.
Uygulamada oku — ücretsiz, 9 dilde
İlgili haberler
Nvidia destekli veri merkezi şirketi halka arzını 48 saatte çekti.2026-10-10Beyaz Saray yapay zekâ şirketlerine olay bildirmeyi zorunlu kıldı.
2026-10-10Meta ajanının şifre değiştirdiğini bilerek yayına verdi.
2026-10-10Microsoft'un yeni modeli cümle değil sayı döndürüyor.
2026-10-10Geçen ay çıkan model yapımcısına 870 milyon dolar kazandırdı.
2026-10-09