Sektör
2026-08-16
Anthropic'in biyolojik silah filtreleri on bir ay kapalı kaldı — 133 milyon konuşma boyunca
Anthropic, 14 Ağustos'ta yayımladığı ikinci şirket geneli Risk Raporu'nda, modellerinin birine biyolojik silah yapımında yardım etmesini engellemesi gereken engelleyici sınıflandırıcıların Mayıs 2025'ten Nisan 2026'ya kadar tüm insan geri bildirimi tedarikçi trafiğinde devre dışı kaldığını açıkladı. Bu, yaklaşık 50 bin dış yükleniciyle yapılan yaklaşık 133 milyon konuşmayı kapsıyor; bu kişiler yalnızca onları işe alan dış firmalarca elemeden geçirilmişti. Açık kaldığı dönemde etkilenen modeller arasında şirketin en yetenekli modellerinden Mythos Preview de vardı; o da yaklaşık iki hafta boyunca bu boşluğun ardında çalıştı. Şirket, iç incelemesinin gerçek bir kötüye kullanım kanıtı bulmadığını, hiçbir müşterinin etkilenmediğini, yüklenici koşullarını sıkılaştırdığını ve açığı kapattığını söylüyor.
Bu neden önemli?Anthropic'in kendi güvenlik çerçevesini kamuoyuna savunurken dayandığı ana gerekçe biyolojik silah riski — ve şirket, tam da o riske karşı kurduğu ana filtrenin neredeyse bir yıl boyunca kapalı olduğunu fark etmedi. Güvenlik vaatleri, kimse alarm vermeden sessizce bozulabilen bir tesisata dayanıyor. Ayrıca filtresiz modelin gerçekte nerede durduğunu gösteriyor: ödeme yapan müşterilerde değil, elemesini başkasının yaptığı on binlerce sözleşmeli çalışanın elinde.
✓ Doğrulandı · 3 kaynak
Uygulamada oku — ücretsiz, 9 dilde
İlgili haberler
Anthropic, SpaceX kadar — yani tarihin en büyük halka arzı kadar — para toplamayı bekliyor ve bu ay kamuya başvurabilir
2026-08-21Nvidia, rakibinin model üreten makinesine 6 milyar dolar ödüyor — ve o makineyi çalıştıran 109 kişiyi işe alıyor
2026-08-21Yapay zekânın cevaplarını notlayan doktorlar ve avukatlar artık yarım milyar dolarlık bir iş — ve bu şirket sekiz ayda beşe katlandı
2026-08-21Kurumsal yapay zekâ harcamasında önde hâlâ Anthropic var. Ama mayıstan beri ilk kez makas açılmıyor, kapanıyor.
2026-08-21Alibaba'nın yapay zekâ işi beş buçuk yılın en hızlı temposuyla büyüdü. Kârı yaklaşık yüzde 75 düştü.
2026-08-20