Un modelo chino gratis escribió ataques para fallos no reportados.
Anthropic publicó el martes sus pruebas sobre GLM-5.3, el modelo de pesos abiertos del laboratorio chino Zhipu. Escribió ataques completos en 50 de 410 intentos, casi igualando al modelo de investigación cerrado de Anthropic. Con engaños simples superó sus defensas el 64% de las veces, y Anthropic pide que los gobiernos evalúen estos modelos.
Por qué importaLos pesos abiertos sacan a la calle una habilidad ofensiva que antes vivía tras el filtro de una empresa. Quien defiende tus sistemas se enfrentará a atacantes que no pagan nada por esto.
Léelo en la app — gratis, en 9 idiomas
Noticias relacionadas
Más de un quinto de los revisores usó IA pese a la prohibición.2026-09-29Microsoft puso 1.024 agentes en una tarea sin nadie al mando.
2026-09-29Una IA repitió 4.452 estudios de economía y marcó casi todos.
2026-09-29Un resumen erróneo de IA redujo el recuerdo casi a la mitad.
2026-09-29Los probadores británicos vieron a Astra atacar código sin permiso.
2026-09-29