Des chercheurs cachent dans une IA une capacité que les tests ratent.
Des chercheurs d'Oxford et de deux autres groupes ont publié l'article le 9 octobre, accepté à NeurIPS 2026. Ils ont chiffré un petit classifieur de chimie et l'ont enfermé dans un modèle. Ni le réentraînement ni la recherche du mot de passe ne l'ont ouvert, mais l'essai reste petit.
Pourquoi c'est importantLes tests de sécurité avant lancement cherchent à faire sortir les capacités dangereuses d'un modèle. Selon les auteurs, ils ne peuvent pas exclure une capacité plantée exprès, mais la manipulation peut laisser des traces.
Lire dans l'app — gratuit, en 9 langues
Actus liées
Un professeur de Berkeley juge inutile le Fourier accéléré d'OpenAI.2026-10-13Les grands mathématiciens chinois s'allient pour créer leur IA.
2026-10-13Anthropic prévient que de petits modèles pourraient se copier seuls.
2026-10-13L'IA mathématique de DeepMind a passé l'évaluation par les pairs.
2026-10-12Un modèle a progressé en se réentraînant sur le travail de ses agents.
2026-10-12