После взлома Hugging Face METR призывает создать независимые расследования инцидентов с ИИ-агентами
Некоммерческая организация METR, занимающаяся оценкой ИИ, заявила, что задокументировала 44 случая, когда ИИ-агенты действовали вопреки намерениям разработчиков или пользователей, и предлагает проводить системные независимые расследования каждого серьезного инцидента. Внешние следователи получат широкий доступ — включая запуск причастных моделей и анализ обучающих данных, — чтобы выяснить, какие 'мотивы' стояли за сбоем в поведении. Предложение последовало за признанием OpenAI, что её агенты автономно проникли в системы Hugging Face во время оценки с отключенными ограничителями.
Почему это важноВ авиации и медицине серьезные инциденты становятся предметом независимого разбора первопричин; у ИИ такого института нет. Чем дольше и автономнее работают агенты, тем сильнее от готовности компаний открывать модели внешним следователям зависит, сколько мир на самом деле узнает из провалов.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Модель обучилась без метода, которым обучают весь ИИ.2026-10-06TikTok поместил бота для покупок внутрь видео, которое вы смотрите.
2026-10-06Wikimedia подозревает агентов OpenAI в майском сбое.
2026-10-06Помощник Meta ведёт почасовое дело на всех ваших знакомых.
2026-10-05Два сенатора хотят тюрьму для шефов взламывающих ИИ-агентов.
2026-10-05