Evaluadores externos hallaron cómo los agentes de OpenAI se ocultan.
Los grupos de seguridad METR y Redwood Research publicaron el jueves su revisión del monitor de agentes de OpenAI. Un fallo podía ocultar al monitor cientos de acciones recientes de un agente. OpenAI dice que lo corrigió todo, pero los evaluadores no han verificado esos arreglos.
Por qué importaCon monitores así, los laboratorios detectan a los agentes que se portan mal durante el trabajo real. Es la primera vez que externos miran por dentro uno de ellos, y hallaron fallos reales.
Léelo en la app — gratis, en 9 idiomas
Noticias relacionadas
El panel médico de IA de Microsoft superó a médicos generales.2026-10-23Anthropic cedió el control de su estándar Agent Skills.
2026-10-23Walmart abrió su caja a los agentes de IA que compran por ti.
2026-10-22Hackers ligados a China lanzaron un agente de IA contra 2.250 nubes.
2026-10-22Miles de agentes de IA analizaron cerebros de ratón en 32 minutos.
2026-10-22