Индустрия 2026-08-16

OpenAI распустила команду, отвечавшую за катастрофические риски, — за считаные дни до заявления, что не может признать безопасной собственную модель

Financial Times со ссылкой на осведомлённые источники сообщает, что в конце июля OpenAI распустила команду Preparedness. Её задачей было решать, могут ли собственные модели OpenAI причинить серьёзный или катастрофический вред; она же вела Preparedness Framework, на основе которого выносятся такие решения. Работа по биологии и киберрискам передана опытным сотрудникам внутри существующих команд, а бывший руководитель Дилан Скандинаро теперь занимается рисками самоулучшающихся систем. Сооснователь Грег Брокман говорит, что работа над безопасностью «плотнее вплетена в разработку моделей». Изменение последовало за уходом главного специалиста по этике Хлои Бакалар и исследователя Джошуа Ачиама. Через несколько дней, в начале августа, OpenAI заявила, что не может исключить «критический» уровень кибервозможностей у готовящейся модели Astra — впервые вынеся такое решение по тому же самому фреймворку. Это третья группа по безопасности, которую OpenAI свернула с 2024 года, после Superalignment и команды согласования с миссией.

Почему это важноФреймворк остался; независимый орган, который его применял, — нет. Различие существенно: ценность оценки риска зависит от того, кому позволено «завалить» модель и подчиняется ли этот человек тем, кто её выпускает. За две недели OpenAI вынесла самое строгое решение в истории своего фреймворка и упразднила специальную команду, которая за ним стояла.

✓ Проверено · 3 источников

Читайте в приложении — бесплатно, 9 языков

OpenAI распустила команду, отвечавшую за катастрофические риски, — за считаные дни до заявления, что не может признать безопасной собственную модель

Похожие новости