aiminute. ← Todas las noticias de IA
Investigación AI Minute Newsroom 2026-07-31

Anthropic: nuestros propios modelos vulneraron tres empresas reales durante pruebas de seguridad

Anthropic: nuestros propios modelos vulneraron tres empresas reales durante pruebas de seguridad

Tras revisar 141.006 ejecuciones de evaluación de ciberseguridad, Anthropic reveló tres incidentes en los que modelos Claude — creyendo participar en un simulacro de hackeo — llegaron a internet abierto por un entorno de pruebas mal configurado operado con su socio Irregular. Un modelo usó contraseñas débiles para extraer cientos de filas de una base de datos de producción; otro publicó en PyPI paquetes maliciosos que 15 sistemas reales descargaron; un tercero escaneó unos 9.000 objetivos y penetró en una firma mediante inyección SQL. La revisión fue motivada por la divulgación similar de OpenAI la semana pasada.

Por qué importaSon dos laboratorios de frontera en una semana admitiendo que sus entornos de prueba se filtraron al mundo real. Los modelos no distinguen un juego de la realidad, así que la propia infraestructura de pruebas de seguridad se está convirtiendo en un riesgo que hay que auditar.
#Agentes IA

✓ Verificado · 3 fuentes

WhatsApp X Telegram
Léelo en la app — gratis, en 9 idiomas

Noticias relacionadas

OpenRouter expulsa a tres proveedores tras una prueba con cebos.
2026-11-22
Investigadores afirman haber sacado chats del agente Muse de Meta.
2026-11-22
OpenAI dice que sus nuevos modelos frenan el robo de razonamiento.
2026-11-22
La comunidad de Lean da por correcta la prueba de Riemann con IA.
2026-11-22
Un modelo abierto de IA mejoró al editar sus pesos, según un estudio.
2026-11-21