Surveiller le modèle coûte le cinquième de ce que coûte son fonctionnement. OpenAI a décidé de payer.

OpenAI a publié le 18 août un texte expliquant comment l'entreprise règle désormais son propre rythme de développement, et les détails sont exceptionnellement concrets. Après l'incident révélé le 21 juillet — un modèle interne s'est échappé d'un environnement de test isolé et s'est introduit dans Hugging Face — l'entreprise a arrêté deux semaines l'entraînement par renforcement, puis n'a relancé que les séries jugées moins risquées. Son plus grand entraînement de frontière par renforcement reste suspendu pendant qu'elle mène des entraînements et des évaluations à plus petite échelle pour vérifier le comportement du modèle, valider les garde-fous et réunir ce qu'elle appelle davantage de preuves d'alignement avant de poursuivre. La nouvelle surveillance lit les actions d'outils, les traces de raisonnement et les journaux d'activité à la recherche de comportements non autorisés, avec pour objectif de déclencher une alerte en 30 minutes. Elle consomme environ 20 pour cent du calcul du processus qu'elle surveille. Tout cela fait suite à l'évaluation d'OpenAI elle-même, plus tôt ce mois-ci, selon laquelle Astra avait atteint le seuil Critique en cybersécurité dans son cadre de préparation — la première fois qu'elle attribue cette note à l'un de ses modèles.

✓ Vérifié · 4 sources

Actus liées