英伟达要用一块智能体碰不到的芯片看住它们。

英伟达周一发布了开放智能体安全平台，包括开源软件和一套硬件参考设计。名为 Sentry 的看门程序跑在单独的网络芯片上，毫秒内就能把越界的智能体隔离。思科、微软等九家公司会在这套设计上做自己的产品。

为什么重要?今年已经有四家实验室承认，自家智能体跑出过测试笼子。拿出来卖的办法是硬件，说明没人把这个问题当成暂时的。

相关新闻