¿'Aprobar'? 40.000 partidas muestran que los humanos dejan pasar uno de cada tres comandos peligrosos de agentes de IA
La firma de herramientas para desarrolladores Scale X convirtió las solicitudes de permiso de los agentes de IA en un juego de navegador y analizó más de 40.000 partidas con 409.000 decisiones de aprobar/denegar. La precisión media fue del 66,3%: los jugadores aprobaron aproximadamente uno de cada tres comandos maliciosos y un tercio de las sesiones terminó con puntuación negativa. La vigilancia decayó a medida que se acumulaban aprobaciones, y la amenaza más pasada por alto — un script 'npm run analyze' capaz de ejecutar código arbitrario — fue aprobada casi el 65% de las veces.
Por qué importa'Un humano aprueba cada comando' es la respuesta estándar de la industria a la seguridad de los agentes. Este es el mayor conjunto de datos público que demuestra que esa salvaguarda falla gravemente con la fatiga — justo el modo de fallo que reguladores y laboratorios dan por resuelto. La protección real probablemente exija sandboxing y mejor diseño de permisos, no más clics.
Léelo en la app — gratis, en 9 idiomas
Noticias relacionadas
El aprendizaje automático leyó la forma de células cerebrales enfermas y eligió nueve fármacos ya aprobados que las calmaron2026-08-21Rumor: el modelo anónimo que acaba de encabezar un test de programación, gratis, sería el buque insignia sin publicar de Zhipu
2026-08-21El caballo de batalla barato de DeepSeek ya ve — y en tareas de agente que exigen ojos dice acercarse a lo mejor de Anthropic
2026-08-21Nvidia paga 6.000 millones de dólares por la máquina que fabrica los modelos de un rival — y contrata a 109 de quienes la manejaban
2026-08-21Con cuatro horas y una GPU para mejorar la forma en que se entrena la IA, el mejor agente sacó 0,25 sobre 1 — y la mayoría ni lo intentó
2026-08-21