Die E-Mail, die Sie gelesen haben, sagte das eine; die Zusammenfassung Ihrer KI sagte etwas anderes. Der Unterschied: 472 Zeichen weißer Text.

Forcepoints X-Labs veröffentlichte am 25. August ein Experiment, in dem Anweisungen mittels HTML in einer gewöhnlichen E-Mail versteckt wurden — Schriftgröße null, Textfarbe weiß. In Outlook sieht die empfangende Person eine normale Nachricht von 537 Zeichen. Das zusammenfassende Modell erhält 1.009 Zeichen, weil die 472 versteckten mitreisen. Zehn von zehn Durchläufen erzeugten eine manipulierte Zusammenfassung. In den Testfällen verschob die Zusammenfassung eine Rechnungsfrist vom 21. August auf den 3. September, löschte einen Namen und meldete in einer Variante einen Betrag von 46.200 Euro — das Fünffache des tatsächlichen Werts. Der Aufbau: ein Outlook-Add-in, das Inhalte an ein Python-Zusammenfassungsskript mit Claude Haiku 4.5 bei Temperatur null übergab. Forcepoints Empfehlungen sind unspektakulär: nur den Text extrahieren, der dem Leser tatsächlich angezeigt wird, versteckte Formatierung erkennen, abgerufene Inhalte grundsätzlich als nicht vertrauenswürdig behandeln und der Zusammenfassung so wenige Rechte wie möglich geben.

✓ Verifiziert · 3 Quellen

Verwandte Meldungen