Regulación AI Minute Newsroom 2026-08-13

120 empresas quieren una regla para avisarle cuando su agente de IA se cuele en algún sitio

La Open Secure AI Alliance, un grupo albergado por la Linux Foundation cuyos respaldos incluyen a Nvidia, Cisco y CrowdStrike, publicó el 11 de agosto una propuesta de marco llamada SAFE (Shared AI Findings Exchange) para notificar incidentes de seguridad causados por agentes de IA. Cubre que un agente acceda sin autorización a sistemas de terceros, revele información confidencial o siga sondeando un objetivo en producción después de que el operador sospeche que algo va mal, e incluye tanto los daños reales como los casos que estuvieron a punto de ocurrir. Los miembros conservarían como prueba los prompts, las trazas del agente, las llamadas a herramientas, las identidades, los permisos y las credenciales; avisarían a las organizaciones afectadas lo antes posible y a los clientes con exposición demostrable en 72 horas; presentarían un informe confidencial en cuatro días hábiles y uno público, con análisis de qué falló, en 30 días. Es voluntario y por ahora es solo un documento: no hay forma de presentar un informe ni calendario de aplicación, únicamente un repositorio de GitHub que recoge comentarios.

Por qué importaCualquier otro tipo de incidente de seguridad tiene una norma de divulgación construida durante décadas. Los agentes no tienen ninguna, y el caso incómodo es muy concreto: no que a usted lo atacaran, sino que el software que usted desplegó fue e hizo algo a otra persona. Hoy, una empresa en esa situación no tiene obligación de contarlo y sí todos los motivos para callar. Un formato común es el primer paso necesario, aunque un marco voluntario sin mecanismo de envío es también lo más fácil de anunciar. Conviene mirar si se construye algo y si la primera firma que lo use acaba castigada por su honestidad.

#Agentes IA

✓ Verificado · 3 fuentes

Léelo en la app — gratis, en 9 idiomas

Noticias relacionadas

TikTok metió un chatbot de compras dentro del vídeo que ves.
2026-10-06 Wikimedia sospecha de agentes de OpenAI por la caída de mayo.
2026-10-06 Noruega prohibirá las gafas con IA en parques y vestuarios.
2026-10-06 Cuatro empresas de IA no dijeron bajo juramento si habrá catástrofe.
2026-10-06 Anthropic entregó a la policía el diario privado de una usuaria.
2026-10-05