AI在线 AI在线

欧盟为具有系统性风险的 AI 模型定规矩:若发生严重事故必须上报,网安工作要到位

AI在线 7 月 18 日消息,据路透社报道,欧盟委员会周五发布指导方针,帮助被认定具有系统性风险的 AI 模型落实《人工智能法案》的相关要求。 这类模型将面临更严格的合规义务,以降低潜在风险。 这一举措旨在回应部分企业对《人工智能法案》监管负担的质疑,同时也为相关企业提供更明确的操作指引。

AI在线 7 月 18 日消息,据路透社报道,欧盟委员会周五发布指导方针,帮助被认定具有系统性风险的 AI 模型落实《人工智能法案》的相关要求。这类模型将面临更严格的合规义务,以降低潜在风险。

这一举措旨在回应部分企业对《人工智能法案》监管负担的质疑,同时也为相关企业提供更明确的操作指引。根据该法案,若违反规定,企业将被处以 750 万欧元(AI在线注:现汇率约合 6249.6 万元人民币)或营业额 1.5%(最高 3500 万欧元)或全球营业额 7% 的罚款。

欧盟为具有系统性风险的 AI 模型定规矩:若发生严重事故必须上报,网安工作要到位

自今年 8 月 2 日起,该法案将适用于具有系统性风险的 AI 模型与基础模型,包括由谷歌、OpenAI、Meta、Anthropic 和 Mistral 开发的模型,各公司须在一年之内完成合规。

欧盟委员会将“具有系统性风险的模型”定义为具备高度计算能力、可能对公共健康、安全、基本权利或社会产生重大影响的 AI 系统

首批受监管的模型需完成模型评估、风险识别与缓解、对抗性测试、重大事件报告,以及配备足够的网络安全防护,以防模型被盗或被滥用。

对于通用型或基础 AI 模型,还将新增透明度义务,包括撰写技术文档、落实版权政策,并详尽说明训练数据的内容来源。

欧盟技术事务主管亨娜・维尔库宁表示:“这份最新发布的指导方针将有助于《人工智能法案》的顺利实施,确保监管更加清晰有效。”

相关资讯

​西班牙将推新法案:未标注 AI 生成内容将面临巨额罚款

西班牙政府近期通过了一项新法案,旨在对未正确标注的人工智能(AI)生成内容的公司处以高额罚款,以打击 “深度伪造” 现象。 数字化转型部长奥斯卡・洛佩斯(Oscar Lopez)在新闻发布会上表示,此项法案参考了欧盟的《人工智能法案》,规定了对被认为是高风险的人工智能系统实施严格的透明度要求。 图源备注:图片由AI生成,图片授权服务商Midjourney洛佩斯指出,人工智能在提升生活质量的同时,也可能被用来传播错误信息、攻击民主,具有潜在的风险。
3/12/2025 5:47:00 PM
AI在线

多家欧洲龙头企业联名呼吁欧盟暂停人工智能法案:会阻碍创新

信中指出,欧盟过于繁复的规则不仅阻碍欧洲企业打造本土领先的AI平台,也限制各行业将AI应用扩展到与国际对手竞争所需的规模。
7/3/2025 7:58:43 PM
清源

​欧盟达成历史性协议:全球首个全面人工智能法案正式出台

欧盟立法者近日在布鲁塞尔达成了一项历史性协议,推出全球首个全面的人工智能法案。 这一开创性立法旨在根据人工智能系统的潜在风险和影响程度进行规范,为27个成员国建立一个统一的监管体系。 该法案不仅促进创新,还旨在保护基本人权。
12/1/2025 12:51:48 PM
AI在线