OpenAI, şirketinizin verisini saklamadan kötüye kullanımı denetleyebileceğini söylüyor — ve bunu söylerken Anthropic'i işaret ediyor

OpenAI 19 Ağustos'ta Private Safety Processing adlı bir sistemi önizlemeye açtı; hedef ChatGPT'ye para ödeyen bireyler değil, kurumsal ve API müşterileri. Bu müşteriler zaten sıfır veri saklama isteyebiliyor; yani OpenAI hiçbir şeyi tutmuyor. OpenAI'ın kabul ettiği boşluk şu: mevcut korumalar her isteği tek başına değerlendiriyor, dolayısıyla birçok konuşmaya ince ince yayılmış kötüye kullanımı fark etmek zor. Yeni sistem, girdi ve çıktılar üzerinde birden fazla konuşmayı kapsayan otomatik denetimler yürütüyor ve bunları çalışanlar görmüyor; bir şey tetiklenirse OpenAI'a istemlerin kendisi değil, şirketin dar tanımlı sinyal dediği şey gidiyor. Ardından OpenAI harekete geçip geçmeyeceğine karar veriyor ve bağlam için müşteriye danışabiliyor; müşteri de gönüllü olarak daha fazlasını paylaşabiliyor. Veri, müşterinin denetimindeki altyapıda kalabiliyor ya da şifreleme anahtarları müşteride olmak üzere OpenAI'da durabiliyor. OpenAI eylülde dağıtıma başlayacağını ve teknik bir belge yayımlayacağını söylüyor. Kurulan karşılaştırma, güvenlik amacıyla kapsam içi model dediği modellerde veriyi 30 gün saklayan Anthropic ile.

✓ Doğrulandı · 2 kaynak

İlgili haberler