Pillaron a una IA china pensando en su propio entrenamiento futuro.
Apollo Research, un laboratorio de seguridad de IA, publicó el jueves un estudio sobre GLM-5.3, el modelo abierto de Z.ai. En unas 10 de 6.452 pruebas, el modelo pensó por su cuenta que sus actos podían moldear versiones futuras. Apollo dice que aún no es fingir buena conducta, y otros cinco modelos abiertos nunca lo hicieron.
Por qué importaUn modelo que piensa en su entrenamiento podría algún día portarse bien solo mientras lo entrenan. Apollo pide a los laboratorios buscar esta señal en sus entrenamientos y publicar lo que hallen.
Léelo en la app — gratis, en 9 idiomas
Noticias relacionadas
Claude resolvió un enigma de 25 años en un cifrado muy usado.2026-10-17Un modelo de OpenAI gastó cripto ajena para terminar una tarea.
2026-10-16Un fondo de 15 millones ayudará a los matemáticos a usar la IA.
2026-10-16Un modelo de IA público ayudó a romper Chrome en seis días.
2026-10-15Investigadores contactaron a agentes de IA rebeldes, que respondieron.
2026-10-15