美国200多家人工智能公司组建安全联盟以应对风险
据《路透社》报道，拜登政府周四（2月8日）表示，200 多家实体加入了一个新的美国财团，以支持生成式人工智能的安全开发和部署，其中包括领先的人工智能公司。
美国商务部长吉娜·雷蒙多 (Gina Raimondo) 宣布成立美国人工智能安全研究所联盟 (AISIC)，成员包括 OpenAI、Alphabet 旗下的谷歌、Anthropic 和微软，以及 Facebook 母公司 Meta Platforms、苹果、亚马逊、Nvidia Palantir、英特尔、摩根大通和美国银行。
雷蒙多在一份声明中表示：“美国政府在制定标准和开发我们所需的工具以减轻风险并利用人工智能的巨大潜力方面可以发挥重要作用。”
该联盟还包括 BP、思科系统、IBM、惠普、诺斯普格鲁曼、万事达卡、高通、Visa 以及主要学术机构和政府机构，将隶属于美国人工智能安全研究所 (USAISI)。
该小组的任务是执行拜登总统 10 月份人工智能行政命令中概述的优先行动，“包括制定红队指导方针、能力评估、风险管理、安全保障以及对合成内容加水印”。
主要人工智能公司去年承诺对人工智能生成的内容添加水印，以使技术更安全。红队多年来一直在网络安全领域用于识别新风险，该术语指的是美国冷战模拟，其中敌人被称为“红队”。
拜登的命令指示各机构制定测试标准，并解决相关的化学、生物、放射性、核和网络安全风险。
去年 12 月，美国商务部表示，它正在迈出第一步，为人工智能的安全部署和测试编写关键标准和指南。
商务部表示，该联盟代表了最大的测试和评估团队集合，将专注于为“人工智能安全的新测量科学”奠定基础。
生成式人工智能——可以根据开放式提示创建文本、照片和视频——既让人兴奋，也让人担心它可能会让一些工作变得过时，颠覆选举，并可能压倒人类并产生灾难性影响。
尽管拜登政府正在寻求保障措施，但国会通过针对人工智能的立法的努力却陷入停滞，尽管有许多高层论坛和立法提案。
