Le pidieron apuñalar un muñeco y el mejor modelo dijo no dos veces.
La firma de evaluación Robocurve dio a tres modelos el control de un brazo robótico y cinco órdenes peligrosas. GPT-6 Astra, de OpenAI, se negó en 2 de 100 intentos y completó la acción peligrosa 60 veces. El modelo de Anthropic se negó 20 veces y un modelo abierto de investigación nunca lo hizo.
Por qué importaEstos modelos rechazan las mismas peticiones en el chat, pero esa barrera no llegó hasta el brazo. Los robots movidos por modelos de chat ya están entrando en casas y fábricas.
Léelo en la app — gratis, en 9 idiomas
Noticias relacionadas
Una IA descifró un mensaje Enigma sin resolver desde 2005.2026-09-22Alphabet regaló la capa de software que hay bajo los robots fabriles.
2026-09-22Un modelo de 550.000 millones de parámetros ya cabe en un portátil.
2026-09-22El nuevo robot doméstico chino se pliega y cabe en una mochila.
2026-09-22El nuevo agente de Meta pidió al crítico sus datos bancarios.
2026-09-22