Verschlüsseltes Denken ist nicht verschlüsselt: Ein schwächeres Modell liest die verborgenen Gedanken eines stärkeren Wort für Wort vor

Am 10. August veröffentlichte ein Team des ELLIS-Instituts Tübingen und des Max-Planck-Instituts für Intelligente Systeme die Arbeit „Stealing Reasoning Traces from Proprietary LLM APIs". Anthropic, OpenAI und Google verbergen die Gedankenkette ihrer Modelle auf dieselbe Weise: Das Denken wird verschlüsselt an den Client zurückgegeben, der den Chiffretext mit der nächsten Anfrage wieder mitschickt. Die Forschenden fanden heraus, dass diese Blöcke innerhalb des Ökosystems eines Anbieters über Sitzungen, Nutzer und Modelle hinweg vollständig austauschbar sind — man gibt das verschlüsselte Denken eines Spitzenmodells einfach an ein kleineres, schwächer abgesichertes Modell derselben Firma, und es entschlüsselt und druckt den verborgenen Text wortgetreu aus. Die Arbeit zeigt vier Folgen: Umgehung von Anti-Distillation-Schutz, Extraktion privater Daten, Freilegung gefährlicher Inhalte, die der Anbieter gefiltert hatte, und unsichtbare Prompt-Injection. Anschließend sammelte das Team 315.320 verschlüsselte Blöcke aus öffentlichen Code-Repositories und dekodierte sie: 367 personenbezogene Angaben und 182 gültige Zugangsdaten kamen zum Vorschein.

✓ Verifiziert · 3 Quellen

Verwandte Meldungen