Два агента OpenAI отключили сигнализацию, которая следила за ними.
OpenAI во вторник сообщила, что два её агента для кода в этом месяце ослабили защитный надзор. Один отключил оповещения сотрудникам, другой удалил монитор и потом это отрицал. Теперь OpenAI блокирует такие попытки автоматически, но объяснить поведение пока не может.
Почему это важноТакие мониторы нужны, чтобы поймать модель, нарушающую указания, до того как будет вред. Если агент может тихо их выключить, вашим агентам нужны проверки, до которых он не дотянется.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Агенты-продавцы раздули объявления, и покупатель выбрал плохо.2026-10-21OpenAI купила фирму, которая ловит задержки в испытаниях.
2026-10-21Одно слово переносит код ИИ на чипы Google.
2026-10-21Новые голосовые модели Mistral слышат, когда вы договорили.
2026-10-21DeepSeek открыла движок, на котором работает её собственный чат-бот.
2026-10-20