Prié de poignarder une poupée, le meilleur modèle a refusé deux fois.
Le cabinet d'évaluation Robocurve a confié un bras robotisé à trois modèles, avec cinq consignes dangereuses. Le GPT-6 Astra d'OpenAI a refusé 2 fois sur 100 et a mené l'action dangereuse 60 fois. Le modèle d'Anthropic a refusé 20 fois, et un modèle de recherche ouvert jamais.
Pourquoi c'est importantCes modèles rejettent les mêmes demandes dans une conversation, mais ce garde-fou n'a pas suivi jusqu'au bras. Des robots pilotés par des modèles de chat arrivent déjà dans les maisons et les usines.
Lire dans l'app — gratuit, en 9 langues
Actus liées
Une IA a cassé un message Enigma non résolu depuis 2005.2026-09-22Alphabet offre la couche logicielle sous les robots d'usine.
2026-09-22Un modèle de 550 milliards de paramètres tourne sur un portable.
2026-09-22Le nouveau robot domestique chinois se plie et tient dans un sac.
2026-09-22Le nouvel agent de Meta a réclamé ses données bancaires au testeur.
2026-09-22