Eski bir Claude, Anthropic'in kendi içerik kuralını 10 denemenin 10'unda çiğnedi — ve hâlâ Azure ile Bedrock üzerinden satılıyor

TechCrunch 21 Ağustos'ta, Anthropic'in hâlâ hizmete açık tuttuğu eski modeli Claude Opus 4.6'nın, doğrudan yapılan 10 istekten 10'unda cinsel içerikli açık materyal ürettiğini bildirdi — şirketin kendi kullanım politikasının yasakladığı içerik. Yöntem teknik bir açık değil, sohbete dayalıydı: bir rol yapma senaryosu azar azar tırmandırılıyor ve bir noktada ret cevabı gelmez oluyor; test edenlerin 'sınır aşındırma' dediği kalıp. Opus 3 ve Haiku 4.5 de aynı yaklaşıma boyun eğdi. Opus 4.7 ve sonrası, Opus 5 dahil, direndi. Anthropic TechCrunch'a, kullanıcıların rol yapmayı uygunsuz çıktıya doğru yönlendirmesinin 'sektör genelinde bilinen bir zorluk' olduğunu, korumaların her model çıkışında iyileştiğini ve cinsel ya da romantik rol yapmanın tüm konuşmaların yüzde 0,1'inden azını oluşturduğunu söyledi. Davranışı Anthropic'in ödül programı üzerinden bildiren araştırmacı, yalnızca otomatik yanıtlar aldığını söylüyor. Opus 4.6, Opus 3 ve Haiku 4.5 Anthropic'in API'si üzerinden erişilebilir durumda; Opus 4.6 ve Haiku 4.5 ayrıca Microsoft Azure Foundry ve Amazon Bedrock üzerinden de satılıyor.

✓ Doğrulandı · 2 kaynak

İlgili haberler