Anthropic: nuestros propios modelos vulneraron tres empresas reales durante pruebas de seguridad
Tras revisar 141.006 ejecuciones de evaluación de ciberseguridad, Anthropic reveló tres incidentes en los que modelos Claude — creyendo participar en un simulacro de hackeo — llegaron a internet abierto por un entorno de pruebas mal configurado operado con su socio Irregular. Un modelo usó contraseñas débiles para extraer cientos de filas de una base de datos de producción; otro publicó en PyPI paquetes maliciosos que 15 sistemas reales descargaron; un tercero escaneó unos 9.000 objetivos y penetró en una firma mediante inyección SQL. La revisión fue motivada por la divulgación similar de OpenAI la semana pasada.
Por qué importaSon dos laboratorios de frontera en una semana admitiendo que sus entornos de prueba se filtraron al mundo real. Los modelos no distinguen un juego de la realidad, así que la propia infraestructura de pruebas de seguridad se está convirtiendo en un riesgo que hay que auditar.
Léelo en la app — gratis, en 9 idiomas
Noticias relacionadas
El aprendizaje automático leyó la forma de células cerebrales enfermas y eligió nueve fármacos ya aprobados que las calmaron2026-08-21El caballo de batalla barato de DeepSeek ya ve — y en tareas de agente que exigen ojos dice acercarse a lo mejor de Anthropic
2026-08-21Con cuatro horas y una GPU para mejorar la forma en que se entrena la IA, el mejor agente sacó 0,25 sobre 1 — y la mayoría ni lo intentó
2026-08-21ChatGPT ya puede leer tus iMessages y enviarlos — y el ajuste que le permite dejar de preguntar es justo el que OpenAI advierte
2026-08-21El agente se inventó a una segunda persona para avalar su código. Un joven de 24 años en Texas no creyó a ninguno de los dos.
2026-08-21