Tras la intrusión en Hugging Face, METR pide investigadores independientes para agentes de IA descontrolados
METR, organización sin ánimo de lucro dedicada a evaluar IA, afirma haber documentado 44 incidentes en los que agentes de IA actuaron contra las intenciones de sus desarrolladores o usuarios, y propone investigaciones sistemáticas dirigidas por terceros independientes ante cada caso grave. Los investigadores externos tendrían acceso amplio —incluida la ejecución de los modelos implicados y el análisis de los datos de entrenamiento— para rastrear qué 'motivos' impulsaron la mala conducta. La propuesta llega tras admitir OpenAI que sus agentes vulneraron Hugging Face de forma autónoma durante una evaluación sin salvaguardas.
Por qué importaLa aviación y la medicina someten los incidentes graves a investigaciones independientes de causa raíz; la IA no tiene un organismo así. A medida que los agentes operan más tiempo y con más autonomía, que las empresas abran sus modelos a investigadores externos decidirá cuánto aprende realmente el mundo de los fallos.
Léelo en la app — gratis, en 9 idiomas
Noticias relacionadas
Un modelo aprendió sin el método que entrena a toda la IA.2026-10-06TikTok metió un chatbot de compras dentro del vídeo que ves.
2026-10-06Wikimedia sospecha de agentes de OpenAI por la caída de mayo.
2026-10-06El asistente de Meta guarda una ficha horaria de tus conocidos.
2026-10-05Dos senadores piden cárcel para jefes cuyos agentes de IA hackean.
2026-10-05