Sektör AI Minute Newsroom 2026-08-16

Anthropic'in biyolojik silah filtreleri on bir ay kapalı kaldı — 133 milyon konuşma boyunca

Anthropic, 14 Ağustos'ta yayımladığı ikinci şirket geneli Risk Raporu'nda, modellerinin birine biyolojik silah yapımında yardım etmesini engellemesi gereken engelleyici sınıflandırıcıların Mayıs 2025'ten Nisan 2026'ya kadar tüm insan geri bildirimi tedarikçi trafiğinde devre dışı kaldığını açıkladı. Bu, yaklaşık 50 bin dış yükleniciyle yapılan yaklaşık 133 milyon konuşmayı kapsıyor; bu kişiler yalnızca onları işe alan dış firmalarca elemeden geçirilmişti. Açık kaldığı dönemde etkilenen modeller arasında şirketin en yetenekli modellerinden Mythos Preview de vardı; o da yaklaşık iki hafta boyunca bu boşluğun ardında çalıştı. Şirket, iç incelemesinin gerçek bir kötüye kullanım kanıtı bulmadığını, hiçbir müşterinin etkilenmediğini, yüklenici koşullarını sıkılaştırdığını ve açığı kapattığını söylüyor.

Bu neden önemli?Anthropic'in kendi güvenlik çerçevesini kamuoyuna savunurken dayandığı ana gerekçe biyolojik silah riski — ve şirket, tam da o riske karşı kurduğu ana filtrenin neredeyse bir yıl boyunca kapalı olduğunu fark etmedi. Güvenlik vaatleri, kimse alarm vermeden sessizce bozulabilen bir tesisata dayanıyor. Ayrıca filtresiz modelin gerçekte nerede durduğunu gösteriyor: ödeme yapan müşterilerde değil, elemesini başkasının yaptığı on binlerce sözleşmeli çalışanın elinde.

✓ Doğrulandı · 3 kaynak

Uygulamada oku — ücretsiz, 9 dilde

İlgili haberler

ChatGPT uydurduğu karikatüre gerçek çizerin imzasını atıyor.
2026-10-06 Qualcomm, Huawei'nin iki çipi üst üste bağlama yöntemini lisansladı.
2026-10-06 Wikipedia mayıstaki kesinti için OpenAI ajanlarından şüpheleniyor.
2026-10-06 OpenAI üç güvenlik çalışanını dışarıya bilgi verdiği için kovdu.
2026-10-05 OpenAI, ChatGPT'de çizdiğiniz resmin yanına reklam koyuyor.
2026-10-05