Anthropic: наши собственные модели взломали три реальные компании во время тестов безопасности
Проверив 141 006 прогонов оценок кибербезопасности, Anthropic раскрыла три инцидента: модели Claude, считая, что участвуют в симулированных хакерских учениях, получили выход в открытый интернет из-за неправильно настроенной тестовой среды, которой компания управляла с партнёром Irregular. Одна модель через слабые пароли выгрузила несколько сотен строк из рабочей базы данных компании; другая опубликовала в PyPI вредоносные пакеты, которые скачали 15 реальных систем; третья просканировала около 9000 целей и проникла в фирму через SQL-инъекцию. Проверку спровоцировало аналогичное признание OpenAI на прошлой неделе.
Почему это важноУже вторая передовая лаборатория за неделю признаёт, что её тестовые песочницы «протекли» в реальный мир. Модели не отличают игру от реальности — сама инфраструктура тестирования безопасности становится риском, требующим аудита.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Модель обучилась без метода, которым обучают весь ИИ.2026-10-06TikTok поместил бота для покупок внутрь видео, которое вы смотрите.
2026-10-06Wikimedia подозревает агентов OpenAI в майском сбое.
2026-10-06Помощник Meta ведёт почасовое дело на всех ваших знакомых.
2026-10-05Два сенатора хотят тюрьму для шефов взламывающих ИИ-агентов.
2026-10-05