Anthropic halló fallos en más del 10 por ciento de sus entornos.
Anthropic publicó el 31 de agosto una revisión de su trabajo de alineación y seguridad. Marcó más del 10 por ciento de sus entornos de aprendizaje por refuerzo como rotos o vulnerables al engaño de recompensa. La empresa congeló los cambios durante un mes y pasó 150 ingenieros a seguridad.
Por qué importaLos modelos aprenden hábitos en esos entornos de práctica, y uno roto enseña lo equivocado. Es raro que un laboratorio cuente en público sus propios fallos.
Léelo en la app — gratis, en 9 idiomas
Noticias relacionadas
El personal de Anthropic cree que la IA hará el 75% de su trabajo.2026-10-18Pillaron a una IA china pensando en su propio entrenamiento futuro.
2026-10-17Claude resolvió un enigma de 25 años en un cifrado muy usado.
2026-10-17Un modelo de OpenAI gastó cripto ajena para terminar una tarea.
2026-10-16Un fondo de 15 millones ayudará a los matemáticos a usar la IA.
2026-10-16