Governor's Office of Emergency Services (Cal OES)

美国加州参议员及议会分别在今年5月与8月底通过了AI法案SB 1047，已交予加州州长Gavin Newsom，Newsom必须在今年9月30日以前接受或否决该法案，就在OpenAI公开反对该法案之际，由上百个来自OpenAI、Google DeepMind、Anthropic、Meta与xAI等AI公司的员工，却连袂赞成该法案。

SB 1047的全名为《前沿人工智能模型的安全可靠创新法案》（Safe and Secure Innovation for Frontier Artificial Intelligence Models Act），该法案是为了确保AI模型的安全及可控性，防止AI可能带来的潜在危害，以及强化开发AI的透明度与问责。

具体而言，该法案要求开发者在训练模型前，必须遵守该法案的要求，其中之一是必须设计一个能够完全关闭模型的能力；制定书面的安全协议；保留安全协议副本至少5年；禁止将模型用于可能造成重大伤害的应用；禁止公开或商业使用具不合理风险的模型；从2026年起必须经由第三方审核。

目前身为全球AI龙头的OpenAI早就反对该法案。反对理由包括认为AI革命才刚开始，加州应该趁此时推动其经济活力，但SB 1047却威胁了它的成长，减缓创新步伐，还可能让世界级工程师与企业家离开加州。

此外，OpenAI也认为，若AI可能威胁国家安全，那么应该是从联邦的角色来制定政策，而非由各州拼凑的不同政策，统一的政策将可替AI实验室与开发人员带来确定性，同时维护大众安全。

由英特尔、AMD、Linux基金会、Meta及IBM共同成立的AI联盟（AI Alliance）同样也反对SB 1047。AI联盟的立场与OpenAI不同，因为此一联盟主要推动的是开源模型，指出开源一直是一种更安全也更透明的技术开发方式，但SB 1047要求开发者必须能够完全控制模型的关闭几乎是不可行的，因为当开源模型被第三方下载之后，开发者就无法再控制该模型。

不过，有上百个来自主流AI公司的开发人员、科学家或研究人员，却连署呼吁加州州长Newsom应该签署该法案。他们在声明书上表示，相信最强大的AI模型可能很快就会带来严重风险，诸如扩大生物武器的使用范围，或是针对关键基础设施的网络攻击，要求AI公司测试AI模型，并针对此类风险实施合理的保障措施是可行且适当的。

公开署名的有Anthropic运算主管James Bradbury，曾于Google Brain任职的图灵奖得主Geoffrey Hinton，xAI的法务长Rob Keele 等，还有部分员工可能怕被秋后算帐而选择匿名。