OpenAI disolvió el equipo encargado del riesgo catastrófico — días antes de decir que no podía descartarlo en su propio modelo

El Financial Times informa, citando a personas al tanto, que OpenAI disolvió su equipo de Preparedness a finales de julio. La función de esa unidad era juzgar si los propios modelos de OpenAI podían causar daños graves o catastróficos, y mantenía el Marco de Preparación con el que se toman esas decisiones. Su trabajo en biología y ciberseguridad ha pasado a personal experimentado dentro de equipos ya existentes, y el antiguo responsable, Dylan Scandinaro, se centra ahora en los riesgos de los sistemas que se automejoran. El cofundador Greg Brockman afirma que el trabajo de seguridad se ha "entretejido más estrechamente con el desarrollo de modelos". El cambio siguió a las salidas de la directora de ética Chloe Bakalar y del investigador Joshua Achiam. Días después, a principios de agosto, OpenAI dijo que no podía descartar una capacidad cibernética "crítica" en su próximo modelo Astra: la primera vez que hacía esa valoración bajo ese mismo marco. Es el tercer grupo dedicado a la seguridad que OpenAI cierra desde 2024, tras Superalignment y el equipo de alineación con la misión.

✓ Verificado · 3 fuentes

Noticias relacionadas