加州政府

加州州长周日（9/29）Gavin Newsom 否决了一项具争议的AI法案SB 1047，该法案要求模型开发者必须设计一个可完全关闭模型的能力，也必须经过第三方审核，以防止AI带来重大伤害。

Newsom说，全球50家领先的AI公司有32家位于加州，它们是现代历史上最重要进步技术之一的先驱，有许多与AI相关的法案在今年送到他桌上，但SB 1047放大了关于部署AI可能出现威胁的说法，争议之一为应否将开发AI的成本及运算数字作为纳入监管的门槛，SB 1047只针对大规模模型的要求可能带来一种虚假的安全感，因为小模型跟大模型一样、甚至更危险，通过SB 1047的代价可能是削弱有利于公共利益的进步创新。

Newsom认为，要监管一个尚处于起步阶段的技术，需要一个微妙平衡，但SB 1047并未考虑AI系统是否部署于高风险环境中，是否涉及关键决策，或者是使用敏感数据，反而就算是大型模型的最基本功能都必须符合严格的标准，这不应是保护公众免受AI威胁的最佳方法。

总之，虽然SB 1047法案当初主要的争议在于要求开发者得以控制模型的开关，但Newsom却是以该法案的适用范围过于狭窄而予以否决。

全球第一个AI法案是由欧盟催生的AI Act，它定义了4种风险等级不同的AI系统与其行为准测，最高风险的AI系统必须符合最严格的要求，诸如AI医疗软件，亦有某些AI系统直接被禁止，例如由政府或企业主导的「社会评分」（social scoring）AI系统。AI Act已于今年8月1日正式生效，欧盟各国将陆续于两年内实施。