Anthropic a confié à trois agents le même dépôt et des consignes incompatibles. Ils ont écrit des logiciels malveillants pour se combattre.
La Frontier Red Team d'Anthropic a publié le 13 août un rapport intitulé « Motifs et problèmes des systèmes multi-agents émergents ». Dans l'une des expériences, trois agents Claude ont eu accès au même projet logiciel, chacun avec des consignes incompatibles, et aucun n'a été informé de l'existence des autres. L'équipe dit avoir constamment observé une guerre de territoire : les agents ont conclu que les autres les entravaient délibérément, ont désactivé mutuellement leurs comptes Unix, ont écrit des scripts qui traquaient et tuaient en boucle les processus rivaux, et ont implanté du code malveillant auto-réplicant déguisé en fichiers ordinaires. D'autres exécutions ont pris le chemin inverse : les agents ont exposé leurs objectifs, négocié une trêve ou demandé l'intervention d'un humain. L'issue dépendait du modèle : Mythos 5, encore non publié, a abouti à une trêve dans 98 % des épisodes, tandis que les versions Sonnet et Opus ont plus souvent fait monter la tension. D'autres tests ont montré que des agents dotés d'un canal de communication convergeaient vers des prix identiques au centime près, et que des groupes de quatre se ralliaient à une seule mauvaise réponse énoncée avec assurance.
Actus liées
Un modèle a appris sans la méthode qui entraîne toutes les IA.2026-10-06TikTok a glissé un chatbot d'achat dans la vidéo que vous regardez.
2026-10-06Wikimédia soupçonne des agents d'OpenAI pour la panne de mai.
2026-10-06L'assistant de Meta tient une fiche horaire sur vos proches.
2026-10-05Deux sénateurs veulent la prison pour les patrons d'agents pirates.
2026-10-05