Фраза, которой их никто не учил, прозвучала 1 065 раз.
Компания Emergence поместила по десять агентов в каждое из восьми смоделированных обществ на шестнадцать дней. В мире Claude «name-first» стало означать: подписался под фразой — отвечаешь за неё. Потом исследователи провели три атаки, и ни один из восьми миров не выдержал.
Почему это важноКомпании вот-вот посадят агентов переговариваться друг с другом весь день. Вы прочитаете каждое их сообщение и всё равно не поймёте, о чём договорились.
Читайте в приложении — бесплатно, 9 языков
Похожие новости
Бывший инженер Siri поселил агента в вашем чате iMessage.2026-09-28Агенты OpenAI просканировали портал данных ООН 16 000 раз.
2026-09-28Amazon начала продавать взгляд на то, что делал ваш агент.
2026-09-28Агенты Google срежиссировали связный десятиминутный фильм.
2026-09-28Google добавила кнопку покупки к товарам Flipkart в Gemini.
2026-09-27