加州要给前沿人工智能装一个紧急停止开关。

州长纽森周五签署行政令，要求专家在两个月内拿出新的人工智能安全规则。清单首位是紧急停止开关，可以在出事时关停前沿模型。该命令还把加州的人工智能审计员计划从二〇二九年一月提前到二〇二七年十二月。

为什么重要?几乎所有大型人工智能公司都在加州，它的规则会传到你用的工具上。纽森自己也承认，停止开关到底是什么，目前还没有共识。

相关新闻