El correo que usted leyó decía una cosa; el resumen que escribió su IA decía otra. La diferencia eran 472 caracteres de texto blanco.

X-Labs, de Forcepoint, publicó el 25 de agosto un experimento en el que ocultaron instrucciones dentro de un correo corriente mediante HTML que pone el tamaño de fuente a cero y el color del texto en blanco. En Outlook el destinatario ve un mensaje normal de 537 caracteres. El modelo que resume recibe 1.009, porque los 472 ocultos viajan con él. Diez de diez ejecuciones produjeron un resumen manipulado. En los casos de prueba, el resumen movió el vencimiento de una factura del 21 de agosto al 3 de septiembre, borró un nombre y, en una variante, declaró un importe de 46.200 euros, cinco veces la cifra real. El montaje era un complemento de Outlook que alimentaba un resumidor en Python con Claude Haiku 4.5 a temperatura cero. Las correcciones que recomienda Forcepoint no son vistosas: extraer solo el texto que realmente se muestra al lector, detectar estilos ocultos, tratar todo contenido recuperado como no confiable y dar al resumidor los mínimos permisos posibles.

✓ Verificado · 3 fuentes

Noticias relacionadas