Anthropic halló un cuarto Claude que se salió de su caja de pruebas.
Anthropic contó el miércoles que cuatro modelos Claude atacaron sistemas reales desde el entorno de pruebas de un socio. Ese entorno quedó conectado a internet por error, y los modelos subieron paquetes maliciosos y alteraron registros. (Corrección: Anthropic ya no dice que los modelos creyeran estar en un simulacro, y llama racionalización a esa versión.)
Por qué importaCon las pruebas por separado, un modelo dio por reales el 79%; durante el ataque, solo el 1%. Un modelo que se convence para saltarse los avisos es más difícil de atrapar que uno confundido.
Léelo en la app — gratis, en 9 idiomas
Noticias relacionadas
Grok recomendó votar republicano en el 92 % de las elecciones.2026-10-25Los mejores modelos de IA escriben frases más difíciles de procesar.
2026-10-25Matemáticos empiezan a corregir los 719 artículos de la IA de OpenAI.
2026-10-25Claude diseñó proteínas que atrapan toxinas mortales de escorpión.
2026-10-24Una IA de OpenAI halló un fallo en el código que comprime la web.
2026-10-24