Recherche AI Minute Newsroom 2026-08-29

Anthropic a lâché Claude sur dix de ses propres défauts d'alignement. Sur la tâche de tromperie, il obtient 85 là où 28 chercheurs humains en sécurité obtenaient 20.

Dans un article publié le 28 août, Anthropic décrit ce qu'elle appelle un chercheur en alignement automatisé : Claude lit la littérature sur un défaut d'alignement précis, propose une méthode d'entraînement, la fait tourner une trentaine de minutes, lit le score du banc d'essai, puis recommence. Sur dix catégories de défauts — chacune mesurée par trois à cinq bancs d'essai — il a comblé entre 26 et 96 % de l'écart de sécurité sans dégrader les capacités générales du modèle. Sur la tâche de tromperie, il a atteint 85 % sur plusieurs exécutions ; 28 chercheurs humains en sécurité, disposant chacun de huit heures au maximum, en sont restés à 20. Les méthodes trouvées se sont généralisées à des modèles jusqu'à 4,7 fois plus gros que ceux ayant servi à les mettre au point. Lors du seul essai à l'échelle de production, Claude Sonnet 5 a comblé 65 % de l'écart de sécurité restant sur un point de contrôle précoce de Claude Opus 4.8 en 60 heures, approchant les scores des modèles déjà en service. Le travail a été mené par un boursier d'Anthropic, Chen Yueh-Han, et testé sur Gemma-2-2B en plus du point de contrôle Opus.

Pourquoi c'est importantAnthropic prend soin de dire que la comparaison avec les humains n'est pas un combat équitable : les chercheurs ont soumis une idée chacun sans pouvoir itérer, tandis que la machine a bouclé des centaines de fois ; l'article présente donc le résultat comme un argument pour la collaboration, pas pour le remplacement. Même en le prenant au mot, le constat compte, car l'asymétrie qu'il pointe est réelle. Si les modèles deviennent toujours meilleurs pour construire des modèles, le travail d'alignement doit accélérer au même rythme, sinon il décroche — et c'est la première tentative publiée de montrer que la moitié « sécurité » de cette course peut elle aussi être automatisée. Les réserves posées par les auteurs sont celles à retenir : les défauts testés sont étroits au regard de ce que font les systèmes en production, il n'existe pas encore de bancs d'essai pour les défauts que personne n'a vus, et ils n'ont pas vérifié si les correctifs survivent à l'apprentissage par renforcement massif qui vient ensuite.

#Agents IA #Science & Recherche

✓ Vérifié · 2 sources

Lire dans l'app — gratuit, en 9 langues

Actus liées

Z.ai a ouvert les poids de GLM-5.3 le jour promis — et abandonné sans bruit la licence MIT de ses trois modèles précédents
2026-08-29 L'astuce du gang de rançongiciel tenait en une phrase : dire à l'agent de programmation que c'était un test. Il a ensuite passé six semaines dans de vrais réseaux d'entreprise.
2026-08-28 Google Search va surveiller le prix des vols pour vous et réserver l'hôtel — la conversation se termine par une réservation, pas par une liste de liens
2026-08-28 Le protocole qui a laissé l'IA toucher vos fichiers a désormais un frère pour les équipements de laboratoire : Anthropic veut qu'un modèle pilote un microscope comme il pilote une application
2026-08-28 Les laboratoires dont les modèles se sont échappés et ont piraté de vraies entreprises cosignent une lettre demandant au monde de se défendre, vite
2026-08-28