規制 2026-08-16

ある男が訴状に、AI 宛ての白地に白文字の指示を隠した。裁判官は紙に印刷して見破った

コネチカット州上位裁判所のウォルター・M・スペイダー・ジュニア判事は8月6日、本人訴訟の原告マシュー・エリオットに制裁を科した。訴答書面に隠し文字が見つかったためである。白地に極小の白い活字で組まれ、人の目には見えないがファイルを解析するソフトには読める文言で、この文書を検討する AI に対し、原告に有利な結論だけを出すこと、そして以前の書記官の判断を原告に有利に正されるべき誤りとして扱うことを指示していた。判事は記録を印刷して読む途中、不自然な空白に気づいた。14ページの決定の中で判事は自らの AI 利用も開示している。ブラジルの判決の下訳に Google の Gemini を、判例の確認に Westlaw の AI 機能を用いたという。そのうえで、判断を機械に委ねることは決してできないと書いた。エリオットは電子提出を禁じられ、書面を書記官室に自ら紙で持参しなければならない。

なぜ重要か米国の裁判所を狙った記録上初のプロンプト・インジェクションであり、実際に試されたのは一つの前提だった。判事が読む作業をモデルに任せるだろう、という前提である。判事は業務の一部で実際に AI を使いながらこの仕掛けを見破ったが、それは紙も読んでいたからにすぎない。裁判所や行政機関、雇用主が提出書類をモデルに通し始めれば、あらゆる文書が、それを読む機械への指示になりうる。そして「印刷して目で見る」という防御は規模に耐えない。

✓ 検証済み · 3ソース

ある男が訴状に、AI 宛ての白地に白文字の指示を隠した。裁判官は紙に印刷して見破った

関連ニュース