google DeepMind 推出 AI 安全框架 Frontier Safety Framework,可检测优化降低大模型危急性

google DeepMind 日前推出了一款名为“Frontier Safety Framework”的 AI 安全框架,主要用于检测 AI 模型的危急情况,号称能够主动鉴别“将来能够形成严重危急的 AI 威力”,向研究人员指出相干模型“究竟在哪些层面能够会被黑客利用”。据介绍,DeepMind 当前公布的 Frontier Safety Framework 1.0 版本主要包含三个关键组件,即“鉴别模型是否具有形成严重危急的威力”,“预估模型会在什么阶段具有安全隐患”、“智能优化模型防止其形成危急”。▲ 图源 google官方

google DeepMind 日前推出了一款名为“Frontier Safety Framework”的 AI 安全框架,主要用于检测 AI 模型的危急情况,号称能够主动鉴别“将来能够形成严重危急的 AI 威力”,向研究人员指出相干模型“究竟在哪些层面能够会被黑客利用”。

google DeepMind 推出 AI 安全框架 Frontier Safety Framework,可检测优化降低大模型危急性

据介绍,DeepMind 当前公布的 Frontier Safety Framework 1.0 版本主要包含三个关键组件,即“鉴别模型是否具有形成严重危急的威力”,“预估模型会在什么阶段具有安全隐患”、“智能优化模型防止其形成危急”。

google DeepMind 推出 AI 安全框架 Frontier Safety Framework,可检测优化降低大模型危急性

▲ 图源 google官方新闻稿

DeepMind 表示,该公司“一直在突破 AI 的边界”,所开发的模型已改变了他们对 AI 能够性的认知,虽然公司相信将来的 AI 技能将为社会带来珍贵的工具。但他们也意识到相干 AI 技能的危急性有能够对社会造成毁灭性的影响,因此他们正在逐步增强模型的安全性与可控性。

IT之家注意到,当前 DeepMind 仍在开发 Frontier Safety Framework,计划通过产业、学术及有关部门的合作来改善相干框架。

给TA打赏
共{{data.count}}人
人已打赏
AI

面壁智能推出 MiniCPM-Llama3-V 2.5 开源端侧多模态模型:8B 参数、高效部署手机

2024-5-21 16:07:14

AI

IBM 宣布开源其“最先辈”Granite 代码模型:116 种编程语言训练,号称优于其他竞品

2024-5-21 17:46:53

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索