Regulierung
AI Minute Newsroom
2026-08-16
Ein Mann versteckte in seinem Schriftsatz weiße Anweisungen auf weißem Grund an die KI. Der Richter kam ihm auf die Schliche, weil er die Seiten ausdruckte.
Richter Walter M. Spader Jr. vom Superior Court in Connecticut verhängte am 6. August Sanktionen gegen den sich selbst vertretenden Kläger Matthew Elliott, nachdem er in dessen Schriftsätzen verborgenen Text gefunden hatte: Anweisungen in winziger weißer Schrift auf weißem Grund, für Lesende unsichtbar, für jede Software aber lesbar, die die Datei verarbeitet. Sie wiesen jedes KI-System, das das Dokument prüft, an, ausschließlich für ihn günstige Schlüsse zu ziehen und eine frühere Entscheidung des Urkundsbeamten als zu seinen Gunsten zu korrigierenden Fehler zu behandeln. Dem Richter fielen beim Durchsehen ausgedruckter Kopien ungewöhnliche Leerräume auf. In seiner 14-seitigen Entscheidung legte er den eigenen KI-Einsatz offen — Googles Gemini für eine Arbeitsübersetzung einer brasilianischen Entscheidung und die KI-Prüffunktionen von Westlaw zur Kontrolle der Fundstellen — und schrieb, die Urteilsbildung könne niemals an eine Maschine abgegeben werden. Elliott darf nun nicht mehr elektronisch einreichen und muss Papierausfertigungen persönlich in der Geschäftsstelle abgeben.
Warum es wichtig istEs ist der erste dokumentierte Prompt-Injection-Versuch gegen ein US-Gericht, und geprüft wurde damit vor allem eine Annahme: dass der Richter ein Modell für sich lesen lässt. Er nutzte KI tatsächlich für Teile der Arbeit und durchschaute den Trick dennoch — aber nur, weil er auch das Papier las. Wenn Gerichte, Behörden und Arbeitgeber eingereichte Dokumente durch Modelle schicken, wird jedes Dokument zu einer möglichen Anweisung an die Maschine, die es liest. Und "ausdrucken und ansehen" ist eine Verteidigung, die nicht skaliert.
✓ Verifiziert · 3 Quellen
▶ Passendes Video: Man Hides Tiny White Text in Legal Court Filing as a 'Prompt Injection' to Get LLMs to Side With Him
In der App lesen — kostenlos, 9 Sprachen
Verwandte Meldungen
Utah lässt eine KI das erste Rezept ohne Arztunterschrift ausstellen.
2026-10-06OpenAI versteckt künftig eine Signatur in ChatGPT-Texten in der EU.
2026-10-06Norwegen will KI-Brillen in Umkleiden und Parks verbieten.
2026-10-06Unter Eid sagten vier KI-Firmen nichts zur Frage der Katastrophe.
2026-10-06Anthropic gab den Tagebucheintrag einer Nutzerin an die Polizei.
2026-10-05