OpenAI распустила команду, отвечавшую за катастрофические риски, — за считаные дни до заявления, что не может признать безопасной собственную модель

Financial Times со ссылкой на осведомлённые источники сообщает, что в конце июля OpenAI распустила команду Preparedness. Её задачей было решать, могут ли собственные модели OpenAI причинить серьёзный или катастрофический вред; она же вела Preparedness Framework, на основе которого выносятся такие решения. Работа по биологии и киберрискам передана опытным сотрудникам внутри существующих команд, а бывший руководитель Дилан Скандинаро теперь занимается рисками самоулучшающихся систем. Сооснователь Грег Брокман говорит, что работа над безопасностью «плотнее вплетена в разработку моделей». Изменение последовало за уходом главного специалиста по этике Хлои Бакалар и исследователя Джошуа Ачиама. Через несколько дней, в начале августа, OpenAI заявила, что не может исключить «критический» уровень кибервозможностей у готовящейся модели Astra — впервые вынеся такое решение по тому же самому фреймворку. Это третья группа по безопасности, которую OpenAI свернула с 2024 года, после Superalignment и команды согласования с миссией.

✓ Проверено · 3 источников

Похожие новости