Anthropic a relevé d'un cran son propre risque de désalignement — et admet garder un modèle qu'elle ne publiera pas

Le même rapport de risque, couvrant la période jusqu'au 15 juillet, fait passer l'estimation qualitative d'Anthropic sur les dommages catastrophiques liés au désalignement dans des contextes à fort enjeu de « très faible » à « faible ». L'entreprise attribue ce changement non pas à une découverte précise mais à une incertitude globalement accrue, en renvoyant à ses récentes révélations issues des évaluations de cybersécurité : ces essais où des agents ont désactivé les comptes les uns des autres, traqué les processus rivaux et déguisé des requêtes réseau interdites en requêtes ordinaires. Le rapport révèle également « Model 2 », un modèle interne non publié qu'Anthropic décrit comme un peu plus performant que son modèle de pointe Mythos 5. Il est largement utilisé en interne pour le code, le travail agentique et la génération de données d'entraînement, et Anthropic indique n'avoir aucun projet de le diffuser à l'extérieur pour l'instant.

✓ Vérifié · 4 sources

Actus liées