当前位置:首页 > 情感 > 正文

科技行业强烈反对,加州否决人工智能安全法案

  • 情感
  • 2024-12-28 11:14:06
  • 2

华盛顿/ SAN FRANSICO:

加州州长加文·纽森(Gavin Newsom)周日否决了一项备受争议的人工智能安全法案,此前科技行业提出了反对意见,称这可能会将人工智能公司赶出加州,阻碍创新。

加文·纽森表示,该法案“没有考虑人工智能系统是否部署在高风险环境中,是否涉及关键决策或敏感数据的使用”,并且“只要是大型系统部署,即使是最基本的功能也会采用严格的标准”。

加文·纽森(Gavin Newsom)表示,他已要求生成式人工智能领域的顶尖专家帮助加州“开发可行的护栏”,重点是“开发基于科学的实证轨迹分析”。

他还下令国家机构扩大对与人工智能使用有关的潜在灾难性事件风险的评估。

生成式人工智能(Generative AI)可以根据开放式提示创建文本、照片和视频,它让人兴奋,也让人担心,它可能会淘汰一些工作,颠覆选举,并可能压倒人类,产生灾难性的影响。

该法案的起草人、民主党州参议员斯科特·维纳(Scott Wiener)表示,在人工智能的进步变得难以驾驭或无法控制之前,立法是必要的,以保护公众。

人工智能行业在加州发展迅速,一些领导人质疑如果该法案成为法律,这些公司在该州的未来。

维纳周日表示,这一否决让加州变得更不安全,意味着“那些旨在创造一种极其强大的技术的公司不会受到任何有约束力的限制。”

他补充说,“行业的自愿承诺是无法强制执行的,对公众来说也很少有好的结果。”

纽森说:“我们不能等到重大灾难发生后才采取行动保护公众。”但他补充说,他不同意“我们必须接受一个没有对人工智能系统和能力进行经验轨迹分析的解决方案。”

纽森表示,他将在下次会议期间与立法机构就人工智能立法进行合作。

与此同时,美国国会制定保障措施的立法陷入停滞,而拜登政府正在推进监管人工智能的提议。

纽森表示,“只有加州的做法很可能是合理的,尤其是在国会没有采取联邦行动的情况下。”

科技行业联盟“进步商会”(Chamber of Progress)对纽森的否决表示赞赏,称“加州科技经济一直在竞争和开放中蓬勃发展”。

除其他事项外,该措施将要求对许多最先进的人工智能模型进行安全测试,这些模型的开发成本超过1亿美元,或者需要一定数量的计算能力。

在该州运行的人工智能软件开发人员还需要概述关闭人工智能模型的方法,这实际上是一个死亡开关。

该法案将建立一个国家实体来监督所谓的“前沿模型”的发展,这些模型超越了最先进的现有模型的能力。

纽森表示,“只有加州的做法很可能是合理的,尤其是在国会没有采取联邦行动的情况下。”

科技行业联盟“进步商会”(Chamber of Progress)对纽森的否决表示赞赏,称“加州科技经济一直在竞争和开放中蓬勃发展”。

除其他事项外,该措施将要求对许多最先进的人工智能模型进行安全测试,这些模型的开发成本超过1亿美元,或者需要一定数量的计算能力。

在该州运行的人工智能软件开发人员还需要概述关闭人工智能模型的方法,这实际上是一个死亡开关。

该法案将建立一个国家实体来监督所谓的“前沿模型”的发展,这些模型超越了最先进的现有模型的能力。

该法案遭到了广泛团体的强烈反对。正在开发生成式人工智能模型的Alphabet公司(GOOGL.O)、微软(MSFT.O)、OpenAI和Meta平台(Meta . o)都对该提案表示了担忧。

包括众议员南希·佩洛西(Nancy Pelosi)在内的一些美国国会民主党人也表示反对。支持者包括特斯拉(TSLA.O)首席执行官埃隆·马斯克,他还经营着一家名为xAI的人工智能公司。亚马逊公司(Amazon)表示,该法案的好处可能大于成本,尽管它补充说,仍有一些方面似乎令人担忧或模棱两可。

纽森单独签署了一项立法,要求该州评估生成人工智能对加州关键基础设施构成的潜在威胁。

Newsom表示,该州正在分析能源基础设施风险和先前召集的电力部门供应商,并将在明年与水基础设施供应商以及随后的通信部门进行同样的风险评估。

加州州长加文·纽森(Gavin Newsom)周日否决了一项备受争议的人工智能安全法案,此前科技行业提出了反对意见,称这可能会将人工智能公司赶出加州,阻碍创新。

加文·纽森表示,该法案“没有考虑人工智能系统是否部署在高风险环境中,是否涉及关键决策或敏感数据的使用”,并且“只要是大型系统部署,即使是最基本的功能也会采用严格的标准”。

加文·纽森(Gavin Newsom)表示,他已要求生成式人工智能领域的顶尖专家帮助加州“开发可行的护栏”,重点是“开发基于科学的实证轨迹分析”。

他还下令国家机构扩大对与人工智能使用有关的潜在灾难性事件风险的评估。

生成式人工智能(Generative AI)可以根据开放式提示创建文本、照片和视频,它让人兴奋,也让人担心,它可能会淘汰一些工作,颠覆选举,并可能压倒人类,产生灾难性的影响。

该法案的起草人、民主党州参议员斯科特·维纳(Scott Wiener)表示,在人工智能的进步变得难以驾驭或无法控制之前,立法是必要的,以保护公众。

人工智能行业在加州发展迅速,一些领导人质疑如果该法案成为法律,这些公司在该州的未来。

维纳周日表示,这一否决让加州变得更不安全,意味着“那些旨在创造一种极其强大的技术的公司不会受到任何有约束力的限制。”

他补充说,“行业的自愿承诺是无法强制执行的,对公众来说也很少有好的结果。”

纽森说:“我们不能等到重大灾难发生后才采取行动保护公众。”但他补充说,他不同意“我们必须接受一个没有对人工智能系统和能力进行经验轨迹分析的解决方案。”

纽森表示,他将在下次会议期间与立法机构就人工智能立法进行合作。

与此同时,美国国会制定保障措施的立法陷入停滞,而拜登政府正在推进监管人工智能的提议。

纽森表示,“只有加州的做法很可能是合理的,尤其是在国会没有采取联邦行动的情况下。”

科技行业联盟“进步商会”(Chamber of Progress)对纽森的否决表示赞赏,称“加州科技经济一直在竞争和开放中蓬勃发展”。

除其他事项外,该措施将要求对许多最先进的人工智能模型进行安全测试,这些模型的开发成本超过1亿美元,或者需要一定数量的计算能力。

在该州运行的人工智能软件开发人员还需要概述关闭人工智能模型的方法,这实际上是一个死亡开关。

该法案将建立一个国家实体来监督所谓的“前沿模型”的发展,这些模型超越了最先进的现有模型的能力。

纽森表示,“只有加州的做法很可能是合理的,尤其是在国会没有采取联邦行动的情况下。”

科技行业联盟“进步商会”(Chamber of Progress)对纽森的否决表示赞赏,称“加州科技经济一直在竞争和开放中蓬勃发展”。

除其他事项外,该措施将要求对许多最先进的人工智能模型进行安全测试,这些模型的开发成本超过1亿美元,或者需要一定数量的计算能力。

在该州运行的人工智能软件开发人员还需要概述关闭人工智能模型的方法,这实际上是一个死亡开关。

该法案将建立一个国家实体来监督所谓的“前沿模型”的发展,这些模型超越了最先进的现有模型的能力。

该法案遭到了广泛团体的强烈反对。正在开发生成式人工智能模型的Alphabet公司(GOOGL.O)、微软(MSFT.O)、OpenAI和Meta平台(Meta . o)都对该提案表示了担忧。

包括众议员南希·佩洛西(Nancy Pelosi)在内的一些美国国会民主党人也表示反对。支持者包括特斯拉(TSLA.O)首席执行官埃隆·马斯克,他还经营着一家名为xAI的人工智能公司。亚马逊公司(Amazon)表示,该法案的好处可能大于成本,尽管它补充说,仍有一些方面似乎令人担忧或模棱两可。

纽森单独签署了一项立法,要求该州评估生成人工智能对加州关键基础设施构成的潜在威胁。

Newsom表示,该州正在分析能源基础设施风险和先前召集的电力部门供应商,并将在明年与水基础设施供应商以及随后的通信部门进行同样的风险评估。

有话要说...