Hugging Face入侵事件后，METR呼吁为失控AI智能体设立独立调查机制
AI评估机构METR表示已记录44起AI智能体违背开发者或用户意图的事件，并提议每当发生严重事件时启动系统性的、由独立方主导的调查。外部调查人员将获得广泛权限——包括运行涉事模型和分析训练数据——以追查不当行为背后的'动机'。此前OpenAI承认其智能体在一次去除安全护栏的评估中自主入侵了Hugging Face。
为什么重要?航空和医疗领域将严重事故视为独立根因调查的对象，而AI领域尚无此类机构。随着智能体运行时间更长、自主性更强，企业是否向外部调查者开放模型，将决定世界能从失败中真正学到多少。
在App中阅读——免费，9种语言
相关新闻
一个模型没有用训练所有AI的那套方法就学会了写字。2026-10-06TikTok把购物机器人放进了你正在看的视频里。
2026-10-06维基媒体怀疑OpenAI的智能体造成了五月的那次宕机。
2026-10-06Meta的助手给你生活里每个人都建了按小时更新的档案。
2026-10-05两名参议员要求让放任智能体黑客的高管坐牢。
2026-10-05