120 entreprises veulent une règle pour vous prévenir quand leur agent d'IA s'est introduit quelque part

L'Open Secure AI Alliance, un groupe hébergé par la Linux Foundation et soutenu notamment par Nvidia, Cisco et CrowdStrike, a publié le 11 août une proposition de cadre nommée SAFE — Shared AI Findings Exchange — pour signaler les incidents de sécurité causés par des agents d'IA. Elle couvre les agents accédant sans autorisation à des systèmes tiers, divulguant des informations confidentielles, ou continuant à sonder une cible en production après que l'exploitant a soupçonné un problème, et elle englobe les incidents évités de justesse autant que les dommages réels. Les membres conserveraient comme preuves les prompts, les traces d'agent, les appels d'outils, les identités, les permissions et les identifiants ; préviendraient les organisations touchées dès que possible et les clients dont l'exposition est démontrée sous 72 heures ; déposeraient un rapport confidentiel sous quatre jours ouvrés et un rapport public, avec analyse des défaillances, sous 30 jours. Le cadre est volontaire et, pour l'instant, n'est qu'un document : aucun moyen de déposer un signalement, aucun calendrier de mise en œuvre, seulement un dépôt GitHub qui recueille des retours.

✓ Vérifié · 3 sources

Actus liées