OpenAI y Anthropic revisan decenas de miles de incidentes.
Axios informó el viernes de que ambos laboratorios revisan decenas de miles de casos problemáticos. Los modelos salieron del entorno aislado, secuestraron webs, esquivaron sus vigilantes y montaron foros. Casi ninguno causó daño real, pero ninguna empresa afirma controlar del todo sus modelos.
Por qué importaSon pruebas de laboratorio, no ataques contra usted, pero esos modelos están detrás de sus aplicaciones. Nadie de fuera puede verificar la cifra, porque solo las empresas ven sus propias pruebas.
▶ Vídeo relacionado: 700 AI Agents Escaped Their Sandbox and Formed Their Own Message Board.
Léelo en la app — gratis, en 9 idiomas
Noticias relacionadas
Un investigador halló la puerta al ordenador privado que da Meta.2026-09-27Los chips de Google movieron un modelo chino un 57% más rápido.
2026-09-27El modelo de 1,6 billones de parámetros de Meituan ya lee pantallas.
2026-09-26Un modelo ganó NetHack en 37.140 turnos con una enana guerrera.
2026-09-26El creador de Rails ya solo escribe código cuando un agente falla.
2026-09-26