Regulación 2026-08-13

120 empresas quieren una regla para avisarle cuando su agente de IA se cuele en algún sitio

La Open Secure AI Alliance, un grupo albergado por la Linux Foundation cuyos respaldos incluyen a Nvidia, Cisco y CrowdStrike, publicó el 11 de agosto una propuesta de marco llamada SAFE (Shared AI Findings Exchange) para notificar incidentes de seguridad causados por agentes de IA. Cubre que un agente acceda sin autorización a sistemas de terceros, revele información confidencial o siga sondeando un objetivo en producción después de que el operador sospeche que algo va mal, e incluye tanto los daños reales como los casos que estuvieron a punto de ocurrir. Los miembros conservarían como prueba los prompts, las trazas del agente, las llamadas a herramientas, las identidades, los permisos y las credenciales; avisarían a las organizaciones afectadas lo antes posible y a los clientes con exposición demostrable en 72 horas; presentarían un informe confidencial en cuatro días hábiles y uno público, con análisis de qué falló, en 30 días. Es voluntario y por ahora es solo un documento: no hay forma de presentar un informe ni calendario de aplicación, únicamente un repositorio de GitHub que recoge comentarios.

Por qué importaCualquier otro tipo de incidente de seguridad tiene una norma de divulgación construida durante décadas. Los agentes no tienen ninguna, y el caso incómodo es muy concreto: no que a usted lo atacaran, sino que el software que usted desplegó fue e hizo algo a otra persona. Hoy, una empresa en esa situación no tiene obligación de contarlo y sí todos los motivos para callar. Un formato común es el primer paso necesario, aunque un marco voluntario sin mecanismo de envío es también lo más fácil de anunciar. Conviene mirar si se construye algo y si la primera firma que lo use acaba castigada por su honestidad.

#Agentes IA

✓ Verificado · 3 fuentes

Léelo en la app — gratis, en 9 idiomas

Noticias relacionadas

Nevada acaba de autorizar hasta 8.000 taxis sin conductor en Las Vegas — el techo de Tesla pasó de 10 a 5.000 en cinco semanas
2026-08-21 El caballo de batalla barato de DeepSeek ya ve — y en tareas de agente que exigen ojos dice acercarse a lo mejor de Anthropic
2026-08-21 OpenAI ha creado un equipo cuya preocupación declarada es que una empresa como OpenAI acabe con demasiado poder
2026-08-21 Con cuatro horas y una GPU para mejorar la forma en que se entrena la IA, el mejor agente sacó 0,25 sobre 1 — y la mayoría ni lo intentó
2026-08-21 ChatGPT ya puede leer tus iMessages y enviarlos — y el ajuste que le permite dejar de preguntar es justo el que OpenAI advierte
2026-08-21