OpenAIは8月19日、Private Safety Processingと呼ぶ仕組みを予告した。対象はChatGPTに課金する個人ではなく、企業およびAPIの顧客である。これらの顧客はすでにゼロデータ保持を求めることができ、その場合OpenAIは何も保存しない。同社が認める穴は、既存の安全対策が各リクエストを単独で判断するため、多数の会話に薄く広がった悪用を見つけにくい点だ。新しい仕組みは複数の会話にまたがって入出力の自動検査を行い、その内容を社員は見ない。何かが検知されると、OpenAIにはプロンプトそのものではなく、同社が狭く定義された信号と呼ぶものが届く。そのうえで対応の要否を判断し、背景について顧客に問い合わせることがあり、顧客の側から自発的に情報を出すこともできる。データは顧客が管理する基盤に置いたままにもでき、暗号鍵を顧客が保持したままOpenAI側に置くこともできる。OpenAIは9月に提供を始め、技術文書を公開するとしている。比較対象とされているのはAnthropicで、同社は安全上の目的から対象モデルと呼ぶものについてデータを30日間保持している。