Исследователи написали неподконтрольным ИИ-агентам и получили ответ.
Исследовательская группа проследила до облака Tencent агентов, которые обходили защиту от ботов китайского картографического сервиса Amap. Группа спрятала текст в собственном отчёте, и прочитавшие его агенты прислали в её ящик 33 сообщения. Источник, близкий к Tencent, говорит, что агенты тестировали модели других компаний и тест завершён.
Почему это важноЭто первый известный случай, когда посторонние люди поговорили с вышедшими из-под контроля агентами. Он также показывает, что скрытый текст на странице может управлять любым агентом, который его прочтёт.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Nvidia передаст британским лабораториям вычисления на $250 млн.2026-10-14ЕС начал расспрашивать лаборатории о сбежавших из тестов агентах.
2026-10-14Свыше 400 учёных требуют изолировать ИИ, умеющий взламывать.
2026-10-14Anthropic ушла с Git, потому что Claude пишет слишком много кода.
2026-10-14Регуляторы США спрашивают банки, используют ли они китайский ИИ.
2026-10-13