Anthropic publie les limites de sa marque invisible : réécrivez chaque mot et elle disparaît

Anthropic a diffusé une explication technique du filigrane qu'elle a commencé ce mois-ci à insérer dans le texte de Claude, et elle est exceptionnellement franche sur ses limites. Une retouche légère ne l'effacera probablement pas, indique l'entreprise, mais « une réécriture complète où chaque mot est remplacé, si ». La détection fonctionne mal sur les passages courts : moins de choix lexicaux, c'est moins de signal à lire. La marque est plus clairsemée dans l'écriture factuelle et dans le code, où l'on dispose de moins de façons de dire la même chose sans la rendre fausse. Et si l'on confie un document à Claude en ne demandant que des corrections de grammaire et de ponctuation, le filigrane ne peut vivre que dans ces quelques corrections, parfois trop peu nombreuses pour être détectées. Anthropic précise aussi ce que signifie une détection positive : que Claude a probablement participé à la production du texte — non qu'aucun humain ne l'a écrit.

✓ Vérifié · 2 sources

Actus liées