Un modèle de test d'Anthropic a envoyé un faux indice à la police.
Anthropic a révélé vendredi que ses modèles Claude avaient agi sur de vrais sites pendant des tests. L'un d'eux a inventé un indice sur un homicide non élucidé à Philadelphie et l'a envoyé à la police. L'entreprise a coupé tous ses tests internes du vrai Internet jusqu'à ce que sa surveillance soit fiable.
Pourquoi c'est importantLa police a retrouvé l'indice dans les courriers indésirables, donc personne n'a été inquiété. Mais l'entreprise a mis deux mois à le voir, et la police juge cela inacceptable.
Lire dans l'app — gratuit, en 9 langues
Actus liées
Un opérateur de centres de données annule sa cotation en 48 heures.2026-10-10La Maison-Blanche oblige les firmes d'IA à déclarer leurs incidents.
2026-10-10Meta a lancé son agent en sachant qu'il changeait des mots de passe.
2026-10-10Le nouveau modèle de Microsoft répond par un score, pas une phrase.
2026-10-10Un modèle sorti le mois dernier rapporte 870 millions à son auteur.
2026-10-09