ツール AI Minute Newsroom 2026-08-29

あなたが読んだメールと、AIが書いた要約は別のことを言っていた。差は472文字の白い文字だった

フォースポイントのX-Labsは8月25日、ある実験を公表した。フォントサイズをゼロに、文字色を白に設定するHTMLを使い、ごく普通のメールの中に指示を隠したのである。Outlook上で受信者が目にするのは537文字の通常のメッセージだ。しかし要約を行うモデルが受け取るのは1,009文字――隠された472文字も一緒に渡るからだ。10回の実行すべてで、改変された要約が生成された。試験例では、要約は請求書の期限を8月21日から9月3日に移し、ある人名を削除し、あるパターンでは実際の5倍にあたる46,200ユーロという金額を報告した。構成は、Claude Haiku 4.5を温度ゼロで動かすPythonの要約スクリプトに内容を送るOutlookアドインである。フォースポイントが勧める対策は地味だ。読者に実際に表示されているテキストだけを抽出する、隠し書式を検出する、取得したコンテンツはすべて信頼しないものとして扱う、要約処理には可能な限り少ない権限しか与えない。

なぜ重要か受信箱の要約はもはや目新しい機能ではなく既定の機能であり、しかも人が自ら進んで原文を読むのをやめる唯一の場所だ。この攻撃が安上がりなのはそのためである。攻撃者は何かを破る必要がない。あなたにメールを送るだけでいい。画面上には、モデルがあなたより多くを読んだという手がかりは一切出ない。効くのは最も技術的でない対策だ。お金・日付・名前が関わるメッセージのAI要約は出発点であって記録ではない。メールを開くこと。

✓ 検証済み · 3ソース

あなたが読んだメールと、AIが書いた要約は別のことを言っていた。差は472文字の白い文字だった

関連ニュース