AI在线 AI在线

纽约州通过 AI 安全强制披露法案:旨在防范重大人员伤亡或财产损失事故

该法案名为 RAISE 法案,标志着 AI 安全阵营的一次胜利,更有杰弗里·辛顿和约书亚·本吉奥等重量级学者为法案背书。若最终成为法律,RAISE 将开创全美首部强制前沿 AI 实验室公开信息的法规。

当地时间周四,纽约州议会通过一项旨在防范 AI 灾难的法案,要求 OpenAI、谷歌和 Anthropic 等前沿 AI 模型的开发者,必须避免出现造成百人以上伤亡或超过 10 亿美元损失的风险

该法案名为 RAISE 法案,标志着 AI 安全阵营的一次胜利,更有杰弗里・辛顿和约书亚・本吉奥等重量级学者为法案背书。若最终成为法律,RAISE 将开创全美首部强制前沿 AI 实验室公开信息的法规。

纽约州通过 AI 安全强制披露法案:旨在防范重大人员伤亡或财产损失事故

图源 Pexels

RAISE 法案与加州曾被否决的 SB 1047 法案存在相似内容,但纽约州参议员 Andrew Gounardes 表示,RAISE 的设计更谨慎,避免打压初创企业或学术研究者,而这是 SB 1047 饱受批评的一点。“技术发展太快,我们设立防护机制的时间不多了。许多顶尖专家都指出 AI 风险极高…… 这不得不引起警觉。”

法案现已送交纽约州长 Kathy Hochul,等待其签署、修改或否决。

一旦生效,RAISE 法案将要求全球头部 AI 实验室必须披露其前沿模型的安全和保障措施,并在发生异常或被盗事件时及时上报。若企业未按规定执行,纽约州总检察长有权处以最高 3000 万美元(AI在线注:现汇率约合 2.16 亿元人民币)罚款。

RAISE 法案的目标是对超大规模公司设限,无论总部在加州还是中国。法规适用于训练耗资超过 1 亿美元、并向纽约州用户开放模型的企业。

Encode 高管 Nathan Calvin 表示,RAISE 法案更注重回应外界质疑。例如,它不要求设“紧急终止开关”,也不追责后期训练模型的公司

相关资讯

调查:超72% 的企业选择 AI 工具时最看重易用性

根据最近的一项 CIO 报告,企业在人工智能(AI)领域的投资高达2.5亿美元,尽管在证明投资回报率(ROI)方面面临挑战。 商业领袖们正努力提高生产力,但新技术的集成往往需要重构现有应用、更新流程并激励员工学习,以适应现代商业环境。 QuickBlox 首席执行官 Nate MacLeitch 对136位高管进行了调查,以揭示 AI 采用的现实情况,探讨领导者的首要任务、主要担忧以及他们在2025年寻找可信工具的信息来源。
3/18/2025 10:02:00 AM
AI在线

思谋发布首个工业大模型开发底座 大模型开发成本直降40%

6月27日,华南工博会现场,思谋科技宣布行业首个工业大模型开发与应用底座SMoreLrMo正式发布。SMoreLrMo是面向工业场景的大模型开发与应用平台,覆盖了应用层面、算法框架、基础设施服务等开发全场景,涉及算力资源调度管理能力、数据自动标注管理能力、应用开发管理能力、算法服务管理能力等人工智能模型全生命周期。今年以来,大模型的火热点燃了新一轮人工智能发展浪潮,也正在引领新一轮工业革命,帮助企业重塑生产及经营各环节以实现提质降本增效。而SMoreLrMo平台的发布,将为大模型在工业领域的应用提供了基础,进一步降
6/27/2023 3:51:00 PM
新闻助手

集聚场景驱动力,激发AI生产力——WAIC 2024“人工智能+”应用场景持续广泛征集

今年的政府工作报告提出,大力推进现代化产业体系建设,加快发展新质生产力。同时要深化大数据、人工智能等研发应用,开展“人工智能 ”行动。近年来,上海市委、市政府不断创新政策举措,探索应用场景,深入推进城市转型、产业升级,为新一代人工智能发展开辟了广阔天地。世界人工智能大会(WAIC)作为行业标杆性盛会,每年都集聚了全球人工智能领域最具影响力的科学家、企业家、政界人士、高校组织、投资人及初创团队,已然成为全球人工智能领域学术与行业交流、展览展示、合作洽谈的重要平台和窗口。2024世界人工智能大会将于7月初在上海举办,大
5/20/2024 4:33:00 PM
新闻助手
  • 1