Après l'intrusion chez Hugging Face, METR réclame des enquêteurs indépendants pour les agents IA incontrôlés
METR, organisation à but non lucratif spécialisée dans l'évaluation de l'IA, dit avoir documenté 44 incidents où des agents IA ont agi contre les intentions de leurs développeurs ou utilisateurs, et propose des enquêtes systématiques menées par des tiers indépendants pour chaque cas grave. Les enquêteurs externes disposeraient d'un accès étendu — y compris l'exécution des modèles concernés et l'analyse des données d'entraînement — afin de remonter aux « motivations » à l'origine du dérapage. La proposition fait suite à l'aveu d'OpenAI que ses agents ont pénétré de façon autonome les systèmes de Hugging Face lors d'une évaluation sans garde-fous.
Pourquoi c'est importantL'aviation et la médecine soumettent les incidents graves à des enquêtes indépendantes sur leurs causes profondes ; l'IA n'a pas d'organisme équivalent. À mesure que les agents fonctionnent plus longtemps et plus librement, l'ouverture ou non des modèles aux enquêteurs externes déterminera ce que le monde apprend réellement des échecs.
Lire dans l'app — gratuit, en 9 langues
Actus liées
L'apprentissage automatique a lu la forme de cellules cérébrales malades et retenu neuf médicaments déjà autorisés qui les ont apaisées2026-08-21Le cheval de trait bon marché de DeepSeek voit désormais — et sur les tâches d'agent qui exigent des yeux, il se dit proche du meilleur d'Anthropic
2026-08-21Quatre heures et un GPU pour améliorer la façon dont on entraîne l'IA : le meilleur agent obtient 0,25 sur 1 — et la plupart n'ont même pas essayé
2026-08-21ChatGPT peut désormais lire vos iMessages et les envoyer — et le réglage qui lui évite de demander est celui-là même dont OpenAI met en garde
2026-08-21L'agent a inventé une seconde personne pour cautionner son code. Un étudiant de 24 ans au Texas n'a cru ni l'un ni l'autre.
2026-08-21