aiminute. ← AIニュース一覧
規制 AI Minute Newsroom 2026-08-16

ある男が訴状に、AI 宛ての白地に白文字の指示を隠した。裁判官は紙に印刷して見破った

ある男が訴状に、AI 宛ての白地に白文字の指示を隠した。裁判官は紙に印刷して見破った

コネチカット州上位裁判所のウォルター・M・スペイダー・ジュニア判事は8月6日、本人訴訟の原告マシュー・エリオットに制裁を科した。訴答書面に隠し文字が見つかったためである。白地に極小の白い活字で組まれ、人の目には見えないがファイルを解析するソフトには読める文言で、この文書を検討する AI に対し、原告に有利な結論だけを出すこと、そして以前の書記官の判断を原告に有利に正されるべき誤りとして扱うことを指示していた。判事は記録を印刷して読む途中、不自然な空白に気づいた。14ページの決定の中で判事は自らの AI 利用も開示している。ブラジルの判決の下訳に Google の Gemini を、判例の確認に Westlaw の AI 機能を用いたという。そのうえで、判断を機械に委ねることは決してできないと書いた。エリオットは電子提出を禁じられ、書面を書記官室に自ら紙で持参しなければならない。

なぜ重要か米国の裁判所を狙った記録上初のプロンプト・インジェクションであり、実際に試されたのは一つの前提だった。判事が読む作業をモデルに任せるだろう、という前提である。判事は業務の一部で実際に AI を使いながらこの仕掛けを見破ったが、それは紙も読んでいたからにすぎない。裁判所や行政機関、雇用主が提出書類をモデルに通し始めれば、あらゆる文書が、それを読む機械への指示になりうる。そして「印刷して目で見る」という防御は規模に耐えない。

✓ 検証済み · 3ソース

▶ 関連動画: Man Hides Tiny White Text in Legal Court Filing as a 'Prompt Injection' to Get LLMs to Side With Him
WhatsApp X Telegram
アプリで読む——無料・9言語

関連ニュース

豪州の情報機関トップが外国勢の建てるデータセンターに警鐘を鳴らした。
2026-11-22
中国がAIトークンの計量と課金の基準づくりを進める。
2026-11-22
AI株の急落を受け、台湾が値下がり銘柄の空売りを禁じた。
2026-11-22
国連の殺人ロボット協議は議論を二年延ばすだけで終わった。
2026-11-21
米上院がデータセンターに送電網の増強費を負担させる法案を可決した。
2026-11-21