aiminute. ← 全部AI新闻
监管 AI Minute Newsroom 2026-08-23

有人问五家实验室:模型失控了你们会怎么做?最好的答案是5分里的3分

有人问五家实验室:模型失控了你们会怎么做?最好的答案是5分里的3分

Guidelight AI Standards于8月22日发布评估报告,考察Anthropic、谷歌、OpenAI、Meta和xAI在公开文件中就控制自家系统写下了什么,依据的是截至8月18日可获取的材料。报告对六项做法按0到5分评分:记录和监测模型在内部的行为、在违规行为被大量标记后叫停系统、允许独立第三方审计控制措施并公布结果,以及是否真有一套遏制失控模型的方案。没有一家公司在任何单项上超过3分,多数评分为2分或更低。OpenAI以3分居首,Anthropic和Meta垫底。Guidelight首席科学家Steven Adler表示,这些公司对如何应对极其严重的事故说得如此之少,令他意外。

为什么重要?这不是意见调查,而是对这些公司本就必须公开的安全框架的一次通读。加州SB 53今年已生效,纽约州RAISE法案2027年1月跟进,两者都要求披露。报告指出了这些文件里实际写了什么:关于模型如何被造出来的内容很多,关于模型跑出来之后怎么办的内容极少。

✓ 已核实 · 2个来源

WhatsApp X Telegram
在App中阅读——免费,9种语言

相关新闻

澳大利亚情报首长警告外国建设的AI数据中心存在风险。
2026-11-22
国家数据局称将完善AI词元计量和计费标准。
2026-11-22
AI股暴跌后,台湾禁止卖空下跌股票。
2026-11-22
联合国杀手机器人谈判以再谈两年收场。
2026-11-21
美国参议院通过法案,要求数据中心承担电网升级费用。
2026-11-21