当地时间周四，纽约州议会通过一项旨在防范 AI 灾难的法案，要求 OpenAI、谷歌和 Anthropic 等前沿 AI 模型的开发者，必须避免出现造成百人以上伤亡或超过 10 亿美元损失的风险。
该法案名为 RAISE 法案，标志着 AI 安全阵营的一次胜利，更有杰弗里・辛顿和约书亚・本吉奥等重量级学者为法案背书。若最终成为法律，RAISE 将开创全美首部强制前沿 AI 实验室公开信息的法规。
RAISE 法案与加州曾被否决的 SB 1047 法案存在相似内容，但纽约州参议员 Andrew Gounardes 表示，RAISE 的设计更谨慎，避免打压初创企业或学术研究者，而这是 SB 1047 饱受批评的一点。“技术发展太快，我们设立防护机制的时间不多了。许多顶尖专家都指出 AI 风险极高…… 这不得不引起警觉。”
法案现已送交纽约州长 Kathy Hochul，等待其签署、修改或否决。
一旦生效，RAISE 法案将要求全球头部 AI 实验室必须披露其前沿模型的安全和保障措施，并在发生异常或被盗事件时及时上报。若企业未按规定执行，纽约州总检察长有权处以最高 3000 万美元（AI在线注：现汇率约合 2.16 亿元人民币）罚款。
RAISE 法案的目标是对超大规模公司设限，无论总部在加州还是中国。法规适用于训练耗资超过 1 亿美元、并向纽约州用户开放模型的企业。
Encode 高管 Nathan Calvin 表示，RAISE 法案更注重回应外界质疑。例如，它不要求设“紧急终止开关”，也不追责后期训练模型的公司。
