Le raisonnement chiffré ne l'est pas : un modèle faible vous relit mot pour mot les pensées cachées d'un modèle puissant

Le 10 août, une équipe de l'Institut ELLIS de Tübingen et de l'Institut Max Planck des systèmes intelligents a publié « Stealing Reasoning Traces from Proprietary LLM APIs ». Anthropic, OpenAI et Google dissimulent la chaîne de raisonnement de leurs modèles de la même manière : le raisonnement est chiffré puis renvoyé au client, qui le retransmet avec la requête suivante. Les chercheurs ont découvert que ces blocs sont parfaitement interchangeables entre sessions, utilisateurs et modèles au sein de l'écosystème d'un même fournisseur : il suffit de donner le raisonnement chiffré d'un modèle phare à un modèle plus petit et moins protégé de la même entreprise pour qu'il le déchiffre et affiche le texte caché à l'identique. L'article démontre quatre conséquences : contourner les défenses anti-distillation, extraire des données privées, faire ressortir des contenus dangereux que le fournisseur avait filtrés, et l'injection de prompt invisible. L'équipe a ensuite récupéré 315 320 blocs chiffrés dans des dépôts de code publics et les a décodés, retrouvant 367 données personnelles et 182 identifiants valides.

✓ Vérifié · 3 sources

Actus liées