Industrie 2026-08-16

Les filtres « armes biologiques » d'Anthropic sont restés désactivés onze mois — sur 133 millions de conversations

Dans son deuxième rapport de risque à l'échelle de l'entreprise, publié le 14 août, Anthropic a révélé que les classifieurs de blocage censés empêcher ses modèles d'aider à fabriquer une arme biologique étaient inactifs sur l'ensemble du trafic des prestataires de retour humain, de mai 2025 à avril 2026. Cela représente environ 133 millions d'échanges avec quelque 50 000 sous-traitants externes, vérifiés uniquement par les prestataires qui les avaient recrutés. Parmi les modèles exposés durant cette période figurait Mythos Preview, l'un des plus performants de la maison, resté environ deux semaines derrière cette faille. L'entreprise indique que son enquête interne n'a trouvé aucune preuve d'usage abusif réel, qu'aucun client n'a été touché, et qu'elle a depuis durci ses exigences envers les sous-traitants et comblé la faille.

Pourquoi c'est importantL'argumentaire public d'Anthropic en faveur de son propre cadre de sécurité repose largement sur le risque d'armes biologiques — et l'entreprise n'a pas remarqué que son filtre principal contre ce risque était coupé pendant près d'un an. Les promesses de sécurité reposent sur une plomberie qui peut se briser en silence, sans que personne ne tire la sonnette d'alarme. Cela montre aussi où se trouve réellement le modèle non filtré : pas chez les clients payants, mais chez des dizaines de milliers de sous-traitants sélectionnés par quelqu'un d'autre.

✓ Vérifié · 3 sources

Lire dans l'app — gratuit, en 9 langues

Actus liées

Anthropic espère lever autant que SpaceX — la plus grande introduction en bourse de l'histoire — et pourrait déposer publiquement ce mois-ci
2026-08-21 Nvidia paie 6 milliards de dollars pour la machine qui fabrique les modèles d'un rival — et embauche 109 de ceux qui la faisaient tourner
2026-08-21 Les médecins et les avocats qui notent les réponses de l'IA pèsent désormais un demi-milliard de dollars — et cette société a quintuplé en huit mois
2026-08-21 Anthropic reste en tête des dépenses d'IA en entreprise. Pour la première fois depuis mai, l'écart se resserre au lieu de se creuser.
2026-08-21 L'activité d'IA d'Alibaba a crû à son rythme le plus rapide depuis cinq ans et demi. Son bénéfice a chuté d'environ 75 pour cent.
2026-08-20