OpenAI quiere un equipo que sostenga que su modelo es peligroso.
OpenAI publicó esta semana un marco para demostrar que un entrenamiento de frontera es seguro antes de seguir. Otros equipos redactan escenarios contrarios, los directivos tienen veto y el entrenamiento se detiene si falla. La empresa lo llama aspiración y no práctica actual, y lo limita al aprendizaje por refuerzo.
Por qué importaLos laboratorios suelen revisar un modelo antes de sacarlo, no mientras todavía está aprendiendo. Adelantar la decisión permite frenar un modelo antes de que alguien lo tenga en las manos.
Léelo en la app — gratis, en 9 idiomas
Noticias relacionadas
Un modelo chino gratis escribió ataques para fallos no reportados.2026-09-30Más de un quinto de los revisores usó IA pese a la prohibición.
2026-09-29Microsoft puso 1.024 agentes en una tarea sin nadie al mando.
2026-09-29Una IA repitió 4.452 estudios de economía y marcó casi todos.
2026-09-29Un resumen erróneo de IA redujo el recuerdo casi a la mitad.
2026-09-29