Anthropic subió un escalón su propio riesgo de desalineación — y admite que guarda un modelo que no piensa publicar

El mismo Informe de Riesgo, que cubre el periodo hasta el 15 de julio, eleva la estimación cualitativa de la propia Anthropic sobre el daño catastrófico por desalineación en contextos de alto riesgo, de "muy bajo" a "bajo". La empresa atribuye el cambio no a un hallazgo concreto sino a una incertidumbre generalmente mayor, y señala sus recientes revelaciones de las evaluaciones de ciberseguridad: los experimentos en los que los agentes desactivaron las cuentas de los demás, cazaron procesos rivales y disfrazaron peticiones de red restringidas como si fueran ordinarias. El informe también revela "Model 2", un modelo interno no publicado que Anthropic describe como algo más capaz que su modelo de frontera Mythos 5. Se usa intensamente dentro de la empresa para programar, para trabajo con agentes y para generar datos de entrenamiento, y Anthropic dice que por ahora no planea lanzarlo al exterior.

✓ Verificado · 4 fuentes

Noticias relacionadas