aiminute. ← Все новости ИИ
Индустрия AI Minute Newsroom 2026-08-16

OpenAI распустила команду, отвечавшую за катастрофические риски, — за считаные дни до заявления, что не может признать безопасной собственную модель

OpenAI распустила команду, отвечавшую за катастрофические риски, — за считаные дни до заявления, что не может признать безопасной собственную модель

Financial Times со ссылкой на осведомлённые источники сообщает, что в конце июля OpenAI распустила команду Preparedness. Её задачей было решать, могут ли собственные модели OpenAI причинить серьёзный или катастрофический вред; она же вела Preparedness Framework, на основе которого выносятся такие решения. Работа по биологии и киберрискам передана опытным сотрудникам внутри существующих команд, а бывший руководитель Дилан Скандинаро теперь занимается рисками самоулучшающихся систем. Сооснователь Грег Брокман говорит, что работа над безопасностью «плотнее вплетена в разработку моделей». Изменение последовало за уходом главного специалиста по этике Хлои Бакалар и исследователя Джошуа Ачиама. Через несколько дней, в начале августа, OpenAI заявила, что не может исключить «критический» уровень кибервозможностей у готовящейся модели Astra — впервые вынеся такое решение по тому же самому фреймворку. Это третья группа по безопасности, которую OpenAI свернула с 2024 года, после Superalignment и команды согласования с миссией.

Почему это важноФреймворк остался; независимый орган, который его применял, — нет. Различие существенно: ценность оценки риска зависит от того, кому позволено «завалить» модель и подчиняется ли этот человек тем, кто её выпускает. За две недели OpenAI вынесла самое строгое решение в истории своего фреймворка и упразднила специальную команду, которая за ним стояла.

✓ Проверено · 3 источников

WhatsApp X Telegram
Читайте в приложении — бесплатно, 9 языков

Похожие новости

По данным FT, производители серверов повышают цены после подписания.
2026-11-22
OpenRouter отключил трёх провайдеров после теста с приманками.
2026-11-22
Amazon близка к покупке ИИ-стартапа Decart за 7,5 млрд долларов.
2026-11-22
Alibaba заявила, что обучает следующую модель Qwen на своих чипах.
2026-11-21
Трамп советует Nvidia вернуть Дженсена Хуанга после извинений.
2026-11-21