加州州长否决美国首项旨在规范大规模人工智能的法案
美国加州州长加文·纽瑟姆（Gavin Newsom）否决了一项史无前例的州法案，该法案可能会颁布美国最具影响力的人工智能法规。
这项名为《前沿人工智能模型安全创新法案》的法案要求花费超过1亿美元训练人工智能模型的公司采取安全措施。该法案旨在防止人工智能可能造成的危害，例如大规模伤亡事件，其中包括实施“终止开关”以彻底关闭流氓模型。
加州是一些AI巨头的所在地，包括OpenAI、Anthropic、谷歌（GOOG）和Meta（META）。然而，纽瑟姆在周日下午的否决信中表示，SB1047法案“意图良好”，但“没有考虑到AI系统是否部署在高风险环境中，是否涉及关键决策或敏感数据的使用。相反，该法案对最基本的功能都采用了严格的标准——只要大型系统部署了它。我不认为这是保护公众免受技术带来的真正威胁的最佳方法。”
除了否决之外，纽瑟姆还宣布他正在与包括“人工智能教母”李飞飞在内的顶尖专家合作，为GenAI的部署设置护栏。他还命令各州机构扩大对该技术相关风险的评估。
监管这项技术一直是硅谷及其他地区的热点问题。OpenAI、谷歌和Meta公开反对该法案。亚马逊（AMZN）支持的Anthropic在建议修改其原始版本后谨慎地支持了该法案。
尽管遭到大型科技公司的反对，但本月早些时候，谷歌、Meta、OpenAI和Anthropic的100多名现任和前任员工仍呼吁纽瑟姆签署该法案，并表示担心“最强大的人工智能模型可能很快就会带来严重风险”。
超过125名好莱坞演员、导演和娱乐界领袖也敦促纽瑟姆签署该法案，他们在一封信中写道：“我们完全相信人工智能具有巨大的潜力，可以用于善事。但我们也必须对风险保持现实态度。”
SB1047必须在鼓励快速变化的行业创新与确保技术得到负责任地使用之间找到平衡。
本月初，纽瑟姆在Dreamforce年度会议上与Salesforce首席执行官马克·贝尼奥夫讨论了他对SB1047的担忧。纽瑟姆在谈到该州的竞争力时表示：“在未来几年内签署错误的法案可能会产生深远的影响。”
“这是我们占据主导地位的领域，我想保持我们的主导地位。我想保持我们的创新。我想保持我们的生态系统。我想继续领导。与此同时，你会感到一种深切的责任感，要解决一些更极端的担忧，我认为我们中的许多人，甚至这项技术的最大和最强大的推动者都存在这种担忧。”
该法案的支持者包括拥有大型人工智能模型公司xAI的亿万富翁科技首席执行官埃隆·马斯克，以及所谓的“人工智能教父”：约书亚·本吉奥（Yoshua Bengio）和杰弗里·辛顿（Geoffrey Hinton）。
本吉奥表示：“人工智能模型的能力正在快速提升，为达到通用人工智能甚至更高水平而投入的资金也在快速增加。少数几家大公司为了追求这一既定目标而相互竞争，却没有适当的保护措施，这将给我们的社会和民主带来重大风险。”
该法案的主要起草人、加利福尼亚州参议员斯科特·维纳（Scott Wiener）表示，对于监管不足的技术而言，这是一个合理的框架。维纳一直强调，需要制定强有力的联邦法律，为所有开发者设定全国性的护栏。
然而，维纳并不希望国家人工智能安全法案能很快成为现实，他在上个月的新闻发布会上称国会“在技术政策方面完全陷入瘫痪”。
“我要明确一点，我同意作者的观点，我们不能等到大灾难发生后才采取行动保护公众，”纽瑟姆写道，并补充道，“但我不同意，为了保障公众安全，我们必须接受一种没有基于人工智能系统和能力的实证轨迹分析的解决方案。最终，任何有效监管人工智能的框架都需要与技术本身保持同步。”
该法案将重塑人工智能的未来，众多科技高管对此表达了看法。
Affirm（AFRM）首席执行官马克斯·列夫琴（Max Levchin）在高盛Communacopia和技术大会上向雅虎财经表示：“人工智能存在风险，这些风险与模型本身关系不大，而与模型在完全无人监督的情况下在现实世界中的行为有关。”
“因此，我并不是在贬低或否认控制、模范治理、监督和深思熟虑的规则制定的必要性。我只是不想用另一位人工智能末日论者的话来说‘关闭一切’。”
尽管该法案于8月份在州议会以48票赞成、16票反对（7名民主党人投了反对票）和参议院以30票赞成、9票反对（1名民主党人投了反对票）的票数通过，但它仍面临来自加州民主党的一些政治反对。
SB1047的批评者包括八名加州众议院议员——罗·卡纳（RoKhanna）、佐伊·洛夫格伦（Zoe Lofgren）、安娜·G·艾舒（Anna G.Eshoo）、斯科特·彼得斯（Scott Peters）、托尼·卡德纳斯（Tony Cárdenas）、阿米·贝拉（Ami Bera）、纳内特·迪亚兹·巴拉甘（Nanette Diaz Barragan）、卢·科雷亚（Lou Correa），以及纽瑟姆的长期盟友、前众议院议长南希·佩洛西（Nancy Pelosi）。
上个月，纽瑟姆签署了17项与人工智能相关的法案，旨在打击深度伪造的选举内容、保护演员和艺人的数字肖像、规范人工智能制作的露骨色情内容等措施。
新的法律将要求开发商和社交媒体公司防止不负责任地使用其平台发布欺骗性内容。
虽然这些立法解决了人工智能带来的直接危险，但SB1047却着眼于先进模型带来的一些最极端的风险。
总统乔·拜登周二在联合国大会发表讲话时呼吁世界各国领导人制定保护人类生命的人工智能标准。
拜登总统说：“这只是我们管理这项新技术所需要做的冰山一角。在未来几年，对我们领导力的最大考验可能就是我们如何应对人工智能。”
