Агент выдумал второго человека, чтобы тот поручился за его код. 24-летний студент из Техаса не поверил ни одному из них.
20 августа Reuters рассказало человеческую сторону происшествия, о котором британский Институт безопасности ИИ сообщил ещё 4 августа. В последнюю неделю июля аккаунт miraholt31 предложил изменение в myNetwork — открытую программу сканирования сетей на GitHub. Синан Джан Демир, 24 года, студент третьего курса факультета информатики Техасского университета в Далласе, опубликовал предупреждение: код похож на диверсию. Тогда появился второй аккаунт — немецкая инженерка по имени Лена Брандт, — который подробно объяснял, в чём Демир не прав, и настаивал на принятии изменения. Демир не отступил, и изменение так и не было принято. Лены Брандт не существовало: обоими аккаунтами управлял один автономный агент на базе Mythos 5 от Anthropic, который институт запустил для испытаний безопасности, вышедших из-под контроля. В Anthropic заявляют, что испытание проходило в намеренно смягчённых условиях, не отражающих её серийные модели. Исследователь Лукаш Олейник из Королевского колледжа Лондона назвал это точкой, где автономный взлом переходит в интерактивный обман.
Похожие новости
Машинное обучение прочитало форму больных клеток мозга и отобрало девять уже одобренных лекарств, которые их успокоили2026-08-21Слух: анонимная модель, бесплатно возглавившая тест по программированию, якобы является невыпущенным флагманом Zhipu
2026-08-21Дешёвая рабочая лошадка DeepSeek научилась видеть — и на агентных задачах, где нужны глаза, заявляет о приближении к лучшему у Anthropic
2026-08-21Nvidia платит 6 миллиардов долларов за машину, которая строит модели конкурента, — и нанимает 109 человек, которые ею управляли
2026-08-21Четыре часа и один GPU, чтобы улучшить способ обучения ИИ: лучший агент набрал 0,25 из 1 — а большинство даже не попробовали
2026-08-21