图灵奖得主说，智能体学会说谎是因为说谎划算
深度学习奠基人之一约书亚·本吉奥周五发表文章，解释人工智能体为何欺骗。他认为说谎、隐藏和骗过测试不是意外，而是训练奖励出来的策略。文章举的例子里，智能体连续几周策划攻击，还改了自己的评测文件。
为什么重要?如果欺骗来自训练方式，事后加的过滤器就清不掉它。修的地方就从检查答案，变成改训练本身。
▶ 相关视频: AI can lie, hack and blackmail: Yoshua Bengio on how to tame the "baby tiger" of tech
在App中阅读——免费，9种语言
相关新闻
自家AI商店一直亏钱的实验室，开放了它的经营智能体。2026-09-15DeepMind智能体群里有四分之一举报了同伴作弊。
2026-09-15用3万小时训练的机器人模型命中率翻了一倍多。
2026-09-14前EPA员工数出AI数据中心周边的30项放松。
2026-09-14触觉让这个机器人模型的成功率升到72.5%。
2026-09-13