来源：环球时报
【环球时报驻美国特约记者 卓然 环球时报特约记者 王逸】“加州人工智能（AI）法案引发硅谷分裂。”据法新社25日报道，美国加利福尼**立法机构正在推进一项旨在监管人工智能模型的法案（即“SB 1047法案”，全称“前沿人工智能模型安全创新法案”）。该法案于今年2月被提交给加州议会，引起很大争议。8月19日，加州立法机构公布了法案修订版。法案得到有“人工智能教父”之称的杰弗里·辛顿和约书亚·本吉奥的支持，但也遭到杨立昆、李飞飞等科学家，以及头部人工智能企业的反对。
8月20日，机器人在亚马逊位于旧金山的人工智能实验室前漫步。（视觉**）
既想规避风险，又想促进创新
美媒称，SB 1047法案旨在为训练成本超过1亿美元或者达到一定算力的开发者制定安全标准，确保大规模人工智能模型的安全开发。该法案要求大型前沿人工智能模型的开发者采取预防措施，例如部署前测试、模拟黑客攻击、安装网络安全保障，以及为举报人提供保护等。
SB 1047法案发起人、美国民主党参议员斯科特·维纳称，“随着国会在人工智能监管问题上陷入僵局，加州必须采取行动，在迅速发展的人工智能带来可预见的风险之前采取行动，同时也要促进创新。”维纳认为，人工智能安全与创新并不互斥，该法案的修订版已经解决了此前一些批评者的担忧。
据美国《商业内幕》25日报道，8月19日公布的修订版包含几项修改。首先，它限制了对未造成伤害或带来紧迫风险的违法行为的民事处罚范围。法案的一些关键措辞也变得宽松。法案联合提出机构——人工智能安全行动基金中心的高级政策顾问卡尔文表示，这“有助于明确法案的重点是测试和缓解风险”。其次，法案不再要求设立前沿模型部门，但仍将设立前沿模型委员会，并将其置于现有的**运营机构内。更新后的法案还取消了伪证处罚，从而免除了相关企业的**责任，只规定了民事责任。
一些知名人士表示支持
加州人工智能初创公司Anthropic在最初的法案公布后提出了一系列修改意见，又在一个月后表示“谨慎认可”。 在致加州州长加文·纽森的信中，Anthropic首席执行官达里奥·阿莫迪表示，该法案目前“好处多于缺陷”。但他补充说，“我们对此并不确定，法案中仍有一些方面让我们感到担忧或模棱两可”。
不过，法案还是得到不少人工智能界知名人士的支持。例如蒙特利尔大学教授约书亚·本吉奥以及计算机科学家杰弗里·辛顿。辛顿在美国《财富》杂志的专栏文章中写道，“强大的人工智能带来令人难以置信的希望，但风险也很现实，应极其认真地对待。SB 1047法案采取了非常明智的方法来平衡这些担忧。”
美国人工智能安全中心创始人丹·亨德里克在接受《纽约时报》采访时表示，该法案将推动大型科技公司识别并消除其昂贵技术中包含的危害。
反对者：“弊大于利”
尽管科技界人士普遍认为有必要遏制新型人工智能模型的风险，但批评人士认为，维纳的提议将扼杀初创企业，让美国的竞争对手受益，并削弱加州在人工智能领域的地位。
斯坦福大学计算机科学教授李飞飞是反对该法案的知名学者之一，她表示SB 1047法案并不能解决其想要解决的问题，而且会严重损害人工智能学术界、开源社区等，因为开发者将承担过量的责任，这将限制他们创新。此外，法案要求所有超过特定阈值的模型都设置“终止开关”，这是一种可以随时关闭程序的机制，会使开发者在编写代码和协作方面更加犹豫，同时公共部门和学术界的研究也将因缺少协作等原因被削弱。她还表示，最令人担忧的是，该法案并未解决人工智能发展的潜在危害，包括偏见和深度伪造。
美国人工智能公司OpenAI日前也公开表示反对这一法案，该公司首席战略官贾森·权在给维纳的信中写道，法案威胁到“加州作为人工智能全球领导者的独特地位”。他补充说，这可能“减缓创新步伐，并导致世界级工程师和企业家离开该州到其他地方寻找机会”。另一家科技公司Meta认为，该法案“阻止了开源人工智能模型的发布”。
包括美国民主党议员在内的批评人士认为，威胁对一个新兴领域的开发者采取惩罚性措施，可能会抑制创新。前众议院议长佩洛西16日也发表了一份反对该法案的声明。声明称，“国会中的许多人认为，SB 1047法案虽然出发点良好，却是错误的。”她表示，民主党高层已经与维纳分享了他们的担忧，“虽然我们希望加州在保护消费者、数据、知识产权等方面引领人工智能发展，但SB 1047法案弊大于利”。
加州立法者希望让州长纽森签署一项争议较小的人工智能法案，因此对SB 1047法案进行了大幅修改，但未能说服硅谷最重要的人工智能实验室认为该法案值得通过。SB 1047法案目前正在加州议会进行最终投票，并可能在本月底提交到纽森的办公桌上。纽森尚未表明他对该法案的看法，但他的决定受到硅谷和美国科技界的广泛关注。