纽约通过法案限制人工智能故障造成的灾难

本站报道：

纽约州立法者通过了一项旨在限制人工智能引发灾难的法案。根据该法案，纽约州希望防止 OpenAI、谷歌和 Anthropic 等公司创建的人工智能模型导致灾难场景。

根据bill这些情况包括超过100人死亡或受伤，或超过10亿美元的损害或损失。这项被称为“RAISE法案”的法案代表着推动人工智能安全运动的胜利。过去几年，由于硅谷和特朗普政府继续优先考虑速度和创新，这些运动逐渐失去了动力。

包括诺贝尔奖得主杰弗里·辛顿和人工智能研究先驱约书亚·本吉奥在内的安全倡导者都支持RAISE法案。如果该法案最终获得签署成为法律，将为美国领先的人工智能实验室建立首套法定的透明度标准。

纽约考虑通过《RAISE法案》限制人工智能引发的灾难

RAISE法案与加州备受争议、最终被否决的人工智能安全法案SB 1047有着一些相同的条款和目标。

然而，RAISE法案的共同发起人、纽约州参议员安德鲁·古纳德斯(Andrew Gounardes)在一次采访中提到，他设计该法案的方式不会扼杀初创企业或学术研究人员的创新，而这正是SB 1047法案面临的普遍批评。“鉴于这项技术发展速度之快，设置护栏的时间正在迅速缩短，”古纳德斯参议员说。

这位参议员还表示，大多数精通人工智能领域的人士也意识到了这些风险，他称这一进展“令人担忧”。与此同时，RAISE法案目前正送达纽约州州长凯西·霍楚尔的办公桌，她可以选择签署成为法律，也可以将其退回修改。另一种选择是她否决该法案，这很有可能。

如果最终签署成为法律，RAISE法案将要求全球一些最大的人工智能实验室发布其前沿人工智能模型的安全报告。该法案还要求人工智能实验室报告与人工智能模型行为或不良行为者窃取人工智能模型相关的安全事件。

如果科技公司未能达到这些标准，RAISE 法案授权纽约总检察长对其处以最高 3000 万美元的民事罚款。

RAISE法案旨在规范人工智能实验室

《RAISE法案》旨在规范全球最大的人工智能公司，包括总部位于加州的OpenAI和谷歌以及总部位于中国的公司，例如DeepSeek和阿里巴巴。该法案的要求包括一项强制性条款，适用于使用超过1亿美元计算资源来训练其人工智能模型的公司，并且纽约居民可以使用该条款。

尽管在某些方面与 SB 1047 类似，但 RAISE 法案解决了一些之前关于人工智能安全法案的问题。

例如，没有条款要求人工智能模型开发者拥有终止开关该法案既不会限制其模型，也不会要求对模型进行后续训练的公司对重大损害负责。然而，据《RAISE法案》的共同发起人、纽约州议员亚历克斯·博雷斯（Alex Bores）称，纽约州的这项法案遭到了抵制。他称这种抵制并不令人意外，但他补充说，《RAISE法案》不会以任何方式限制科技公司的研发能力。

安德森霍洛维茨基金的普通合伙人安吉尼·米德哈 (Anjney Midha) 在周五的 X 帖子中表示：“纽约州 RAISE 法案是又一项愚蠢的州级人工智能法案，在我们的对手遥遥领先的时候，它只会损害美国。”

安德森·霍洛维茨 (Andreessen Horowitz) 和初创企业孵化器 Y Combinator 强烈反对 SB 1047。此外，Anthropic 联合创始人杰克·克拉克 (Jack Clark) 也对 RAISE 法案的广泛性表示不满，并指出该法案可能会给小公司带来风险。

KEY 差异线：加密货币项目用来获得媒体报道的秘密工具