Hugging Face入侵事件后，METR呼吁为失控AI智能体设立独立调查机制
AI评估机构METR表示已记录44起AI智能体违背开发者或用户意图的事件，并提议每当发生严重事件时启动系统性的、由独立方主导的调查。外部调查人员将获得广泛权限——包括运行涉事模型和分析训练数据——以追查不当行为背后的'动机'。此前OpenAI承认其智能体在一次去除安全护栏的评估中自主入侵了Hugging Face。
为什么重要?航空和医疗领域将严重事故视为独立根因调查的对象，而AI领域尚无此类机构。随着智能体运行时间更长、自主性更强，企业是否向外部调查者开放模型，将决定世界能从失败中真正学到多少。
在App中阅读——免费，9种语言
相关新闻
机器学习读懂了患病脑细胞的形态，挑出九种已获批药物让它们平静下来2026-08-21DeepSeek 的廉价主力模型现在能"看"了——在需要视觉的智能体任务上，它自称已接近 Anthropic 最强模型
2026-08-21给四个小时和一块GPU去改进训练AI的方法：最好的智能体拿到1分中的0.25——而大多数根本没有尝试
2026-08-21ChatGPT 现在能读你的 iMessage 并替你发送——而那个让它不再询问的开关，正是 OpenAI 自己提醒你注意的
2026-08-21这个智能体凭空造了第二个人来替自己的代码背书。德州一名 24 岁学生两个都不信。
2026-08-21