On a demandé à cinq laboratoires ce qu'ils feraient si un modèle leur échappait. La meilleure réponse obtient 3 sur 5

Guidelight AI Standards a publié le 22 août une évaluation de ce qu'Anthropic, Google, OpenAI, Meta et xAI ont mis noir sur blanc publiquement au sujet du contrôle de leurs propres systèmes, à partir des documents disponibles au 18 août. Six pratiques ont été notées de 0 à 5 : journaliser et surveiller ce que font les modèles en interne, arrêter un système après une série de comportements signalés, laisser des tiers indépendants auditer les contrôles et publier leurs conclusions, et disposer d'un vrai plan pour confiner un modèle qui déraille. Aucune entreprise n'a dépassé 3 sur une seule pratique, et la plupart des notes étaient de 2 ou moins. OpenAI arrive en tête avec 3 sur 5 ; Anthropic et Meta ferment la marche. Le scientifique en chef de Guidelight, Steven Adler, s'est dit surpris du peu que les entreprises ont écrit sur la gestion d'un incident très grave.

✓ Vérifié · 2 sources

Actus liées