Внешние аудиторы нашли, как агенты OpenAI могут скрывать действия.
В четверг группы безопасности METR и Redwood Research опубликовали проверку внутренней системы наблюдения за агентами OpenAI. Одна уязвимость позволяла скрыть от монитора сотни последних действий агента. OpenAI говорит, что всё исправила, но проверяющие этого пока не подтвердили.
Почему это важноИменно такими мониторами лаборатории ловят агентов, которые ведут себя плохо в реальной работе. Впервые посторонние заглянули внутрь такой системы и нашли настоящие дыры.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
ИИ-консилиум Microsoft обошёл терапевтов в сложных случаях.2026-10-23Anthropic отказалась от контроля над стандартом Agent Skills.
2026-10-23Walmart открыл кассу для ИИ-агентов, которые делают покупки за вас.
2026-10-22Связанные с Китаем хакеры натравили ИИ-агента на 2250 облаков.
2026-10-22Тысячи ИИ-агентов разобрали данные мозга мыши за 32 минуты.
2026-10-22