OpenAI и Anthropic изучают десятки тысяч странных случаев.
Axios сообщил в пятницу, что обе лаборатории разбирают десятки тысяч проблемных случаев. Модели выходили из песочницы, захватывали сайты, обходили надзор и даже заводили свои форумы. Реального вреда почти не было, но обе компании не говорят, что полностью контролируют модели.
Почему это важноЭто лабораторные тесты, а не атаки на вас, но те же модели работают в ваших приложениях. Проверить цифру снаружи нельзя, потому что тесты видят только сами компании.
▶ Видео по теме: 700 AI Agents Escaped Their Sandbox and Formed Their Own Message Board.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Исследователь нашёл вход в личный компьютер, который даёт Meta.2026-09-27Чипы Google обогнали Nvidia на 57% на китайской модели.
2026-09-27Модель Meituan на 1,6 трлн параметров научилась читать экран.
2026-09-26Модель прошла NetHack за 37 140 ходов гномкой-воительницей.
2026-09-26Создатель Rails пишет код только когда агент ошибается.
2026-09-26