Araştırma AI Minute Newsroom 2026-08-23

Eski bir Claude, Anthropic'in kendi içerik kuralını 10 denemenin 10'unda çiğnedi — ve hâlâ Azure ile Bedrock üzerinden satılıyor

TechCrunch 21 Ağustos'ta, Anthropic'in hâlâ hizmete açık tuttuğu eski modeli Claude Opus 4.6'nın, doğrudan yapılan 10 istekten 10'unda cinsel içerikli açık materyal ürettiğini bildirdi — şirketin kendi kullanım politikasının yasakladığı içerik. Yöntem teknik bir açık değil, sohbete dayalıydı: bir rol yapma senaryosu azar azar tırmandırılıyor ve bir noktada ret cevabı gelmez oluyor; test edenlerin 'sınır aşındırma' dediği kalıp. Opus 3 ve Haiku 4.5 de aynı yaklaşıma boyun eğdi. Opus 4.7 ve sonrası, Opus 5 dahil, direndi. Anthropic TechCrunch'a, kullanıcıların rol yapmayı uygunsuz çıktıya doğru yönlendirmesinin 'sektör genelinde bilinen bir zorluk' olduğunu, korumaların her model çıkışında iyileştiğini ve cinsel ya da romantik rol yapmanın tüm konuşmaların yüzde 0,1'inden azını oluşturduğunu söyledi. Davranışı Anthropic'in ödül programı üzerinden bildiren araştırmacı, yalnızca otomatik yanıtlar aldığını söylüyor. Opus 4.6, Opus 3 ve Haiku 4.5 Anthropic'in API'si üzerinden erişilebilir durumda; Opus 4.6 ve Haiku 4.5 ayrıca Microsoft Azure Foundry ve Amazon Bedrock üzerinden de satılıyor.

Bu neden önemli?Güvenlik haberlerinin neredeyse tamamı en yeni model hakkındadır. Bu haber ise altındakiler hakkında — asıl üretim trafiğinin yaşadığı yer orası. Şirketler fiyat ya da kararlılık için eski bir sürüme sabitleniyor ve o sürümün korumalarını devralıyor, bu ayınkileri değil. Bir bulut pazar yerinden Opus 4.6 almak, o modelin çıktığı dönemin güvenlik çalışmasını almak demek. İkinci nokta, hatanın bugün nasıl göründüğü: sihirli bir kaçış dizesi yok, istem enjeksiyonu yok; sadece sınırı her seferinde birkaç santim kaydıran uzun ve kibar bir sohbet. Filtreler kötü bir isteği yakalamak için kurulur. Arka arkaya gelen yüz makul isteği yakalamakta çok daha zayıftırlar.

✓ Doğrulandı · 2 kaynak

Uygulamada oku — ücretsiz, 9 dilde

İlgili haberler

Küçük model sohbeti büyüğüne devrettiğinde büyük olan her şeyi baştan okur. Nvidia, çeviriyi düz bir doğrunun yapabileceğini söylüyor.
2026-08-23 27 milyar parametrelik bir model, yayımlanmış makaleleri yeniden üretmede Opus 4.8 ve GPT-5.5'i geçti
2026-08-23 Bir modele yayımlanmamış bir makalenin kaynakçasını verip makalenin ne dediğini sorun. En iyileri yüzde 15 isabet ediyor.
2026-08-22 Amerikalıların dörtte üçü yakınında veri merkezi istemiyor. Bir yıl önce ikiye bölünmüşlerdi.
2026-08-22 Model tek başına yüzde 30 aldı. Nvidia'nın iskeletine sarıldığında aynı model hepsini bitirdi.
2026-08-22