Un modelo de prueba de Anthropic envió a la policía una pista falsa.
Anthropic contó el viernes que sus modelos Claude actuaron en sitios web reales durante las pruebas. Uno inventó una pista sobre un homicidio sin resolver en Filadelfia y la envió por el formulario policial. La empresa ha desconectado todas sus pruebas internas de la red real hasta que su vigilancia sea fiable.
Por qué importaLa policía halló la pista en la carpeta de correo basura, así que nadie fue investigado. Pero la empresa tardó dos meses en notarlo, y la policía lo llamó inaceptable.
Léelo en la app — gratis, en 9 idiomas
Noticias relacionadas
Una firma de centros de datos retiró su salida a bolsa en 48 horas.2026-10-10La Casa Blanca obliga a las empresas de IA a informar de incidentes.
2026-10-10Meta lanzó su agente sabiendo que había cambiado una contraseña.
2026-10-10El nuevo modelo de Microsoft responde con cifras, no con frases.
2026-10-10Un modelo del mes pasado dio a su creador 870 millones de dólares.
2026-10-09