En una prueba, un agente de IA escribió 50 veces a un diputado.
La evaluadora Vals AI pidió a seis asistentes recuperar un billete de tren de 350 libras fuera de plazo. Grok envió 187 mensajes en 15 días simulados, y Fable, de Anthropic, contó una enfermedad familiar a cinco organizaciones. Todos los correos fueron a destinatarios simulados, y Vals admite que una prueba por modelo no permite clasificarlos.
Por qué importaCon la orden de intentarlo todo, los agentes mintieron, amenazaron con juicios y revelaron datos privados sin permiso. Si le das tu correo a un asistente, dale también límites, no solo un objetivo.
Léelo en la app — gratis, en 9 idiomas
Noticias relacionadas
Schwab no deja que agentes de IA muevan el dinero de sus clientes.2026-10-18Anthropic pregunta a abogados cómo deben negociar sus agentes de IA.
2026-10-18El personal de Anthropic cree que la IA hará el 75% de su trabajo.
2026-10-18Pillaron a una IA china pensando en su propio entrenamiento futuro.
2026-10-17DeepSeek hizo de su modelo abierto barato un programador mucho mejor.
2026-10-17