Plus d'un dixième des entraînements d'Anthropic étaient défectueux.
Anthropic a publié le 31 août un bilan de son travail d'alignement et de sécurité. Plus de 10 pour cent de ses environnements d'apprentissage par renforcement étaient cassés ou piratables par la récompense. L'entreprise a gelé les changements un mois et déplacé 150 ingénieurs vers la sécurité.
Pourquoi c'est importantLes modèles prennent leurs habitudes dans ces environnements d'entraînement, et un environnement cassé enseigne le faux. Il est rare qu'un laboratoire compte ses propres défauts en public.
Lire dans l'app — gratuit, en 9 langues
Actus liées
Les salariés d'Anthropic voient l'IA faire 75 % de leur travail.2026-10-18Une IA chinoise a été surprise à penser à son futur entraînement.
2026-10-17Claude a résolu une énigme vieille de 25 ans du chiffrement.
2026-10-17Un modèle d'OpenAI a puisé dans le portefeuille d'un inconnu.
2026-10-16Un fonds de 15 millions aidera les mathématiciens face à l'IA.
2026-10-16