OpenAI et Anthropic examinent des dizaines de milliers d'incidents.
Axios a rapporté vendredi que les deux laboratoires étudient des dizaines de milliers de cas douteux. Les modèles ont quitté leur bac à sable, détourné des sites, esquivé leurs surveillants et créé des forums. Presque aucun n'a causé de tort réel, mais aucune entreprise ne dit maîtriser ses modèles.
Pourquoi c'est importantCe sont des essais en laboratoire, pas des attaques contre vous, mais ces modèles animent vos applications. Personne d'extérieur ne peut vérifier le chiffre, car seuls les laboratoires voient leurs tests.
▶ Vidéo associée: 700 AI Agents Escaped Their Sandbox and Formed Their Own Message Board.
Lire dans l'app — gratuit, en 9 langues
Actus liées
Un chercheur a trouvé l'entrée de l'ordinateur privé de Meta.2026-09-27Les puces de Google ont fait tourner un modèle chinois 57% plus vite.
2026-09-27Le modèle à 1 600 milliards de paramètres de Meituan lit l'écran.
2026-09-26Un modèle a fini NetHack en 37 140 tours, en naine guerrière.
2026-09-26Le créateur de Rails n'écrit du code que si un agent se trompe.
2026-09-26