Le courriel que vous avez lu disait une chose ; le résumé écrit par votre IA en disait une autre. La différence : 472 caractères en blanc.

X-Labs, l'unité de recherche de Forcepoint, a publié le 25 août une expérience où des instructions étaient dissimulées dans un courriel ordinaire au moyen de HTML fixant la taille de police à zéro et la couleur du texte en blanc. Sous Outlook, le destinataire voit un message normal de 537 caractères. Le modèle chargé du résumé en reçoit 1 009, car les 472 caractères cachés voyagent avec. Dix exécutions sur dix ont produit un résumé manipulé. Dans les cas testés, le résumé a déplacé l'échéance d'une facture du 21 août au 3 septembre, supprimé un nom et, dans une variante, annoncé un montant de 46 200 euros, cinq fois le chiffre réel. Le dispositif : un complément Outlook alimentant un script Python de résumé faisant tourner Claude Haiku 4.5 à température zéro. Les correctifs recommandés par Forcepoint sont sans éclat : n'extraire que le texte réellement affiché au lecteur, détecter les styles masqués, considérer tout contenu récupéré comme non fiable et donner au résumeur le moins de pouvoirs possible.

✓ Vérifié · 3 sources

Actus liées