Регулирование 2026-08-16

Человек спрятал в судебных бумагах белые по белому указания для ИИ. Судья раскрыл это, распечатав страницы.

Судья Высшего суда Коннектикута Уолтер М. Спейдер-младший 6 августа применил санкции к представлявшему себя истцу Мэтью Эллиотту, обнаружив в его состязательных бумагах скрытый текст: набранные крошечным белым шрифтом по белому фону указания, невидимые читателю, но доступные любой программе, разбирающей файл. Они предписывали любой системе ИИ, изучающей документ, делать выводы исключительно в пользу истца и считать более раннее решение секретаря суда ошибкой, подлежащей исправлению в его пользу. Судья заметил необычные пробелы, просматривая распечатанные копии материалов дела. В решении на 14 страницах он раскрыл и собственное использование ИИ — Gemini от Google для рабочего перевода бразильского решения и функции проверки Westlaw для сверки источников — и написал, что суждение никогда не может быть передано машине. Эллиотту запрещено подавать документы электронно: печатные копии он обязан приносить в канцелярию лично.

Почему это важноЭто первая задокументированная попытка инъекции инструкций, направленная против суда США, и по сути она проверяла одно допущение: что судья доверит чтение модели. Судья действительно применял ИИ на части работы — и всё же раскрыл уловку, но лишь потому, что читал и бумагу. По мере того как суды, ведомства и работодатели начнут прогонять поступающие документы через модели, каждый документ превращается в возможную команду для машины, которая его читает, а «распечатай и посмотри глазами» — защита, которая не масштабируется.

✓ Проверено · 3 источников

▶ Видео по теме: Man Hides Tiny White Text in Legal Court Filing as a 'Prompt Injection' to Get LLMs to Side With Him Читайте в приложении — бесплатно, 9 языков

Человек спрятал в судебных бумагах белые по белому указания для ИИ. Судья раскрыл это, распечатав страницы.

Похожие новости