Claude a battu des chercheurs humains sur les failles d'alignement
Anthropic a publié le 28 août ce qu'il appelle un chercheur automatique en alignement. Sur dix catégories de défaut, Claude a comblé de 26 à 96 pour cent de l'écart de sécurité. Sur la tâche de tromperie il obtient 85, contre 20 pour 28 chercheurs humains.
Pourquoi c'est importantAnthropic reconnaît que la comparaison est inégale : les humains n'ont pas pu itérer. L'asymétrie reste réelle : si les modèles accélèrent, l'alignement doit suivre le même rythme.
Lire dans l'app — gratuit, en 9 langues
Actus liées
Un professeur de Berkeley juge inutile le Fourier accéléré d'OpenAI.2026-10-13Des chercheurs cachent dans une IA une capacité que les tests ratent.
2026-10-13Les grands mathématiciens chinois s'allient pour créer leur IA.
2026-10-13Anthropic prévient que de petits modèles pourraient se copier seuls.
2026-10-13Le premier modèle de pointe de Meta se classe quatrième d'un indice.
2026-10-13