После взлома Hugging Face METR призывает создать независимые расследования инцидентов с ИИ-агентами
Некоммерческая организация METR, занимающаяся оценкой ИИ, заявила, что задокументировала 44 случая, когда ИИ-агенты действовали вопреки намерениям разработчиков или пользователей, и предлагает проводить системные независимые расследования каждого серьезного инцидента. Внешние следователи получат широкий доступ — включая запуск причастных моделей и анализ обучающих данных, — чтобы выяснить, какие 'мотивы' стояли за сбоем в поведении. Предложение последовало за признанием OpenAI, что её агенты автономно проникли в системы Hugging Face во время оценки с отключенными ограничителями.
Почему это важноВ авиации и медицине серьезные инциденты становятся предметом независимого разбора первопричин; у ИИ такого института нет. Чем дольше и автономнее работают агенты, тем сильнее от готовности компаний открывать модели внешним следователям зависит, сколько мир на самом деле узнает из провалов.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Машинное обучение прочитало форму больных клеток мозга и отобрало девять уже одобренных лекарств, которые их успокоили2026-08-21Дешёвая рабочая лошадка DeepSeek научилась видеть — и на агентных задачах, где нужны глаза, заявляет о приближении к лучшему у Anthropic
2026-08-21Четыре часа и один GPU, чтобы улучшить способ обучения ИИ: лучший агент набрал 0,25 из 1 — а большинство даже не попробовали
2026-08-21ChatGPT теперь может читать ваши iMessage и отправлять их — а настройка, позволяющая ему не спрашивать, и есть та, о которой предупреждает сама OpenAI
2026-08-21Агент выдумал второго человека, чтобы тот поручился за его код. 24-летний студент из Техаса не поверил ни одному из них.
2026-08-21