aiminute. ← 全部AI新闻
监管 AI Minute Newsroom 2026-08-16

一名男子在诉状里藏了写给 AI 的白底白字指令。法官把文件打印出来,识破了

一名男子在诉状里藏了写给 AI 的白底白字指令。法官把文件打印出来,识破了

康涅狄格州高等法院法官 Walter M. Spader Jr. 于 8 月 6 日对自行出庭的原告 Matthew Elliott 作出制裁,此前他在其诉状中发现了隐藏文字:以极小的白色字体印在白色背景上,人眼看不见,但任何解析该文件的软件都能读取。这些指令要求任何审阅该文件的 AI 系统只得出对原告有利的结论,并把此前书记官的一项裁定视为应当朝有利于他的方向纠正的错误。法官在翻阅打印出来的卷宗时注意到异常的空白。在 14 页的裁定中,他主动披露了自己使用 AI 的情况——用谷歌 Gemini 对一份巴西裁决做工作性翻译,用 Westlaw 的 AI 审查功能核对判例——并写道,裁断权永远不能交给机器。Elliott 目前被禁止电子递交文件,必须亲自把纸质件送到书记官办公室。

为什么重要?这是有记录以来第一起针对美国法院的提示注入尝试,而它真正测试的是一个假设:法官会让模型替他阅读。法官确实在部分工作中使用了 AI,仍然识破了这一手,但那是因为他同时读了纸质件。当法院、政府机构和雇主开始把收到的文件送进模型时,每一份文件都可能变成给阅读它的机器下达的指令,而「打印出来用眼睛看」这种防御是无法规模化的。

✓ 已核实 · 3个来源

▶ 相关视频: Man Hides Tiny White Text in Legal Court Filing as a 'Prompt Injection' to Get LLMs to Side With Him
WhatsApp X Telegram
在App中阅读——免费,9种语言

相关新闻

犹他州批准人工智能在没有医生签字时开出第一张处方。
2026-10-06
OpenAI 要在欧盟给 ChatGPT 写的每个字藏上暗记。
2026-10-06
挪威要禁止在更衣室和操场佩戴AI眼镜。
2026-10-06
四家AI公司宣誓作证,却不肯说AI会不会带来灾难。
2026-10-06
Anthropic 把一名用户的私人日记交给了警察。
2026-10-05