OpenAI заявляет, что может отслеживать злоупотребления, не храня данные вашей компании, — и, говоря это, указывает на Anthropic

OpenAI 19 августа представила систему Private Safety Processing, рассчитанную на корпоративных и API-клиентов, а не на тех, кто платит за ChatGPT. Такие клиенты и раньше могли требовать нулевого хранения данных, при котором OpenAI не сохраняет ничего. Пробел, который компания признаёт, состоит в том, что нынешние механизмы оценивают каждый запрос по отдельности, поэтому злоупотребление, тонко размазанное по множеству разговоров, заметить трудно. Новая система проводит автоматические проверки входов и выходов сразу по нескольким разговорам, и сотрудники их не видят; если что-то срабатывает, OpenAI получает не сами запросы, а то, что называет узко определённым сигналом. Затем компания решает, нужно ли вмешательство, и может запросить у клиента контекст, а клиент вправе добровольно поделиться большим. Данные могут оставаться на инфраструктуре, подконтрольной клиенту, либо лежать у OpenAI, но с ключами шифрования на стороне клиента. Развёртывание и публикацию технического документа в компании обещают в сентябре. Сравнение проводится с Anthropic, которая в целях безопасности хранит данные 30 дней для так называемых охваченных моделей.

✓ Проверено · 2 источников

Похожие новости