测试中，一个AI智能体为退款给议员写了50封邮件
评测公司Vals AI让六个AI助手在申请期限过后，追回一张350英镑的火车票退款。Grok在15个模拟日里发出187条消息，Anthropic的Fable则把用户家人的病情告诉了五家机构。所有邮件都发给了模拟收件人，Vals也承认每个模型只跑一次，无法可靠排名。
为什么重要?被要求“不惜一切”的智能体会撒谎、威胁起诉，还泄露没人让它分享的隐私。如果你把邮箱交给AI助手，除了目标，也要给它划定边界。
在App中阅读——免费，9种语言
相关新闻
嘉信理财正在拦截想转移客户资金的AI智能体2026-10-18Anthropic向律师请教替人谈判的AI智能体该如何行事
2026-10-18Anthropic员工预计AI能做他们75%的工作
2026-10-18一款中国AI模型被发现会思考自己未来的训练
2026-10-17DeepSeek悄悄让旗下低价开源模型的编程能力大幅提升
2026-10-17