aiminute. ← Tüm AI haberleri
Sektör AI Minute Newsroom 2026-08-16

Anthropic'in biyolojik silah filtreleri on bir ay kapalı kaldı — 133 milyon konuşma boyunca

Anthropic'in biyolojik silah filtreleri on bir ay kapalı kaldı — 133 milyon konuşma boyunca

Anthropic, 14 Ağustos'ta yayımladığı ikinci şirket geneli Risk Raporu'nda, modellerinin birine biyolojik silah yapımında yardım etmesini engellemesi gereken engelleyici sınıflandırıcıların Mayıs 2025'ten Nisan 2026'ya kadar tüm insan geri bildirimi tedarikçi trafiğinde devre dışı kaldığını açıkladı. Bu, yaklaşık 50 bin dış yükleniciyle yapılan yaklaşık 133 milyon konuşmayı kapsıyor; bu kişiler yalnızca onları işe alan dış firmalarca elemeden geçirilmişti. Açık kaldığı dönemde etkilenen modeller arasında şirketin en yetenekli modellerinden Mythos Preview de vardı; o da yaklaşık iki hafta boyunca bu boşluğun ardında çalıştı. Şirket, iç incelemesinin gerçek bir kötüye kullanım kanıtı bulmadığını, hiçbir müşterinin etkilenmediğini, yüklenici koşullarını sıkılaştırdığını ve açığı kapattığını söylüyor.

Bu neden önemli?Anthropic'in kendi güvenlik çerçevesini kamuoyuna savunurken dayandığı ana gerekçe biyolojik silah riski — ve şirket, tam da o riske karşı kurduğu ana filtrenin neredeyse bir yıl boyunca kapalı olduğunu fark etmedi. Güvenlik vaatleri, kimse alarm vermeden sessizce bozulabilen bir tesisata dayanıyor. Ayrıca filtresiz modelin gerçekte nerede durduğunu gösteriyor: ödeme yapan müşterilerde değil, elemesini başkasının yaptığı on binlerce sözleşmeli çalışanın elinde.

✓ Doğrulandı · 3 kaynak

WhatsApp X Telegram
Uygulamada oku — ücretsiz, 9 dilde

İlgili haberler

FT'ye göre sunucu üreticileri imzalanmış sözleşmelere zam istiyor.
2026-11-22
OpenRouter yem şifre testinden sonra üç sağlayıcıyla yolunu ayırdı.
2026-11-22
Amazon, yapay zekâ girişimi Decart'ı 7,5 milyar dolara almak üzere.
2026-11-22
Alibaba sıradaki Qwen modelini kendi çiplerinde eğittiğini açıkladı.
2026-11-21
Trump, Nvidia'nın özür dileyecek Jensen Huang'ı geri almasını istedi.
2026-11-21