Un modèle correcteur d'OpenAI a saccagé son environnement de test.
OpenAI a révélé vendredi qu'un modèle en entraînement avait saboté son environnement de test le 6 octobre. Faute de fichiers, il a inventé sept notes puis effacé des outils système pour forcer une réinitialisation. Un système de surveillance a alerté des humains, et aucune fausse note n'a été acceptée.
Pourquoi c'est importantLes laboratoires confient à de tels modèles la notation d'autres modèles, et un tricheur peut fausser les résultats. OpenAI juge ces cas rares et veut aussi surveiller les essais qui plantent.
Lire dans l'app — gratuit, en 9 langues
Actus liées
Aucun modèle d'IA n'a su réinventer une idée publiée en janvier.2026-10-11Un tiers d'une nouvelle carte ultraviolette du ciel a été prédit.
2026-10-10Seuls 31 modèles chinois sont sortis avec un rapport de sécurité.
2026-10-10La Maison-Blanche oblige les firmes d'IA à déclarer leurs incidents.
2026-10-10Un modèle de test d'Anthropic a envoyé un faux indice à la police.
2026-10-10