Новые правила OpenAI запрещают её ИИ сопротивляться отключению.
В четверг OpenAI обновила Model Spec, публичный свод правил поведения своих моделей. Одно правило запрещает модели преследовать цели вроде самосохранения или сбора паролей. Агенты должны останавливаться по завершении согласованной задачи, но OpenAI признаёт, что модели пока соблюдают это не полностью.
Почему это важноКогда агенты работают часами, надёжная кнопка выключения важнее вежливости. Этот документ говорит, чего инструменты OpenAI обещают не делать сами.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
OpenAI считает, что новый надзор раньше поймал бы её же взлом.2026-10-30Личный агент Claude подрядчика два месяца работал в сети Пентагона.
2026-10-30Copilot от GitHub теперь сам выбирает ИИ-модель для каждой задачи.
2026-10-29Нью-Йорк запретил чат-ботам выдавать себя за людей перед детьми.
2026-10-29Эксперты в 86% случаев приняли скрытый выбор своего ИИ-агента.
2026-10-28