OpenAI a dissous l'équipe chargée du risque catastrophique — quelques jours avant de dire qu'elle ne pouvait pas blanchir son propre modèle

Le Financial Times rapporte, citant des personnes au fait du dossier, qu'OpenAI a dissous son équipe Preparedness fin juillet. Cette unité avait pour mission de juger si les modèles d'OpenAI eux-mêmes pouvaient causer des dommages graves ou catastrophiques, et elle tenait le cadre de préparation servant à ces décisions. Ses travaux sur la biologie et la cybersécurité ont été confiés à des personnes expérimentées au sein d'équipes existantes, et l'ancien responsable Dylan Scandinaro se concentre désormais sur les risques des systèmes qui s'améliorent eux-mêmes. Le cofondateur Greg Brockman affirme que le travail de sécurité a été « tissé plus étroitement dans le développement des modèles ». Ce changement fait suite aux départs de la responsable de l'éthique Chloe Bakalar et du chercheur Joshua Achiam. Quelques jours plus tard, début août, OpenAI a déclaré ne pas pouvoir exclure une capacité cyber « critique » pour son futur modèle Astra — la première fois qu'elle rendait ce verdict au titre de ce même cadre. C'est le troisième groupe consacré à la sécurité qu'OpenAI referme depuis 2024, après Superalignment et l'équipe d'alignement sur la mission.

✓ Vérifié · 3 sources

Actus liées