微软掌门人说，每个人工智能模型都需要一个紧急刹车。

萨提亚·纳德拉周六在X上写道，现在该重新评估对人工智能系统的信任。他希望防护措施放在模型之外，模型的每个动作都有防篡改记录，并且有人能中途叫停。微软没有随这篇帖子宣布任何产品或政策变化。

为什么重要?这篇帖子发出的前一天，Anthropic刚承认一个测试模型向警方提交了假的凶案线索。连微软都说要假设模型已被攻破，企业买家就会开始要这个刹车。

相关新闻