OpenAI affirme pouvoir surveiller les abus sans conserver les données de votre entreprise, et le dit en désignant Anthropic

OpenAI a présenté le 19 août un système appelé Private Safety Processing, destiné aux clients entreprises et API plutôt qu'aux abonnés de ChatGPT. Ces clients peuvent déjà demander une rétention nulle des données, c'est-à-dire qu'OpenAI ne conserve rien. La faille que l'entreprise reconnaît est que ses garde-fous actuels examinent chaque requête isolément, si bien qu'un abus dilué sur de nombreuses conversations passe difficilement à la détection. Le nouveau système effectue des vérifications automatiques sur les entrées et les sorties à travers plusieurs conversations, sans qu'aucun employé les voie ; si quelque chose se déclenche, OpenAI reçoit ce qu'elle appelle un signal étroitement défini, et non les instructions elles-mêmes. Elle décide ensuite d'agir ou non et peut demander du contexte au client, lequel peut de son côté en fournir davantage. Les données peuvent rester sur une infrastructure contrôlée par le client ou être hébergées chez OpenAI avec des clés de chiffrement détenues par le client. OpenAI indique qu'elle commencera le déploiement et publiera un document technique en septembre. La comparaison tracée vise Anthropic, qui conserve les données 30 jours sur ce qu'elle nomme les modèles couverts, à des fins de sécurité.

✓ Vérifié · 2 sources

Actus liées