Инструменты AI Minute Newsroom 2026-08-29

Письмо, которое прочли вы, говорило одно; сводка, написанная вашим ИИ, — другое. Разница составила 472 символа белого текста

Подразделение X-Labs компании Forcepoint 25 августа опубликовало эксперимент, в котором инструкции спрятали внутри обычного письма с помощью HTML, задающего нулевой размер шрифта и белый цвет текста. В Outlook получатель видит обычное сообщение из 537 символов. Модель, делающая сводку, получает 1009 символов, потому что 472 скрытых едут вместе с ними. Десять запусков из десяти дали изменённую сводку. В тестовых случаях сводка перенесла срок оплаты счёта с 21 августа на 3 сентября, удалила имя, а в одном варианте сообщила сумму 46 200 евро — впятеро больше настоящей. Стенд представлял собой надстройку Outlook, передававшую содержимое Python-скрипту суммаризации на Claude Haiku 4.5 при нулевой температуре. Рекомендации Forcepoint неброские: извлекать только тот текст, который действительно показан читателю; выявлять скрытое оформление; считать любой полученный контент недоверенным; и давать суммаризатору как можно меньше полномочий.

Почему это важно«Сделай сводку по почте» давно стало функцией по умолчанию, а не диковинкой, — и это единственное место, где человек сознательно перестаёт читать оригинал. Именно поэтому такая атака дёшева: злоумышленнику не нужно ничего взламывать, достаточно написать вам письмо. Ничто в интерфейсе не сообщает, что модель увидела больше вашего. Работающая мера защиты — наименее техническая: ИИ-сводка сообщения, где речь о деньгах, датах или именах, — это отправная точка, а не документ. Откройте письмо.

✓ Проверено · 3 источников

▶ Видео по теме: EVERY AI User Should Know About THIS Hidden Security Risk (Prompt Injection) Читайте в приложении — бесплатно, 9 языков

Письмо, которое прочли вы, говорило одно; сводка, написанная вашим ИИ, — другое. Разница составила 472 символа белого текста

Похожие новости