AI在线 AI在线

蚂蚁数科与清华联合项目获科技进步一等奖,攻克大模型安全难题

在刚刚结束的第十八届中国电子信息年会上,中国电子学会公布了2024年度科学技术奖的获奖名单。 其中,由清华大学、北京中关村实验室和蚂蚁集团联合研发的项目《高效协作的互联网动态行为安全可信关键技术与应用》荣获科技进步一等奖。 这一成果的获得,不仅展示了前沿科技在安全可信领域的巨大潜力,也为应对日益复杂的网络环境提供了有效方案。

在刚刚结束的第十八届中国电子信息年会上,中国电子学会公布了2024年度科学技术奖的获奖名单。其中,由清华大学、北京中关村实验室和蚂蚁集团联合研发的项目《高效协作的互联网动态行为安全可信关键技术与应用》荣获科技进步一等奖。这一成果的获得,不仅展示了前沿科技在安全可信领域的巨大潜力,也为应对日益复杂的网络环境提供了有效方案。

随着互联网的普及,恶意流量攻击和隐蔽的网络风险层出不穷,构建一个更安全的互联网环境已经成为了社会各界的共识。这个联合项目创新性地提出了分层传递和高效求解的智能协作体系,能够有效实现安全信息的获取和传递,同时大幅提升了互联网对未知应用风险的应对能力。

奖杯 颁奖 喝彩 (2)

图源备注:图片由AI生成,图片授权服务商Midjourney

蚂蚁集团在可信 AI 技术方面的深耕,已经在反欺诈、反洗钱和企业联合风控等领域取得了显著成效。该技术的应用,使得网络黑产中的隐蔽行为识别精度提升超过12%。例如,支付宝的黑产防御能力也得到了显著增强,资损率降低到亿分之0.98,远低于国际同行水平。作为蚂蚁集团的科技业务子公司,蚂蚁数科致力于将这些前沿技术输出到各个行业,以帮助企业在大模型时代实现安全可信的技术服务。

蚂蚁数科的蚁盾 AI 风控引擎融合了生成式 AI 技术,智能化水平显著提升。该系统不仅降低了风险管理的复杂度,还将风险应对的时效从天级别缩短到小时级别,现已服务于金融、出行和电商等十多个行业的1000余家企业。

在大模型技术应用方面,安全和可信性已经成为企业的核心需求。为了保障大模型在企业中的应用落地,蚂蚁数科推出了针对推理模型的全链路风险防御方案。这一方案覆盖了从输入层到输出层的所有环节,为企业的安全合规提供了坚实保障。同时,蚂蚁数科的可信智能体技术,助力企业构建可靠、可控且可优化的智能体应用,推动智能化服务从 “可用” 走向 “可信”。

项目主要负责人、蚂蚁数科 CEO 赵闻飙表示:“安全可信是 AI 大模型在产业应用落地的关键。我们将继续深耕可信 AI 技术,加速大模型在各行业的应用,助力智能化升级。”

相关资讯

美国人工智能安全研究所首任所长离职

美国人工智能安全研究所(U.S. AI Safety Institute)的所长埃莉莎白・凯利(Elizabeth Kelly)于本周三宣布辞职,她在 LinkedIn 上发布了这一消息。 这一决定使得该新成立的政府机构在特朗普总统领导下的未来方向变得更加不明朗。
2/6/2025 11:40:00 AM
AI在线

Anthropic安全防护面临挑战,AI模型通用越狱测试揭示突破口

在短短六天内,参与者成功绕过了Anthropic人工智能(AI)模型Claude3.5的所有安全防护措施,这一突破为AI安全防护领域带来了新的讨论。 前OpenAI对齐团队成员、现就职于Anthropic的Jan Leike在X平台宣布,一名参与者成功攻破了所有八个安全级别。 这项集体努力涉及了约3,700小时的测试和来自参与者的300,000条消息。
2/12/2025 11:14:00 AM
AI在线

警惕!马斯克的新AI模型Grok 3被曝存在严重安全漏洞,黑客可轻松操控!

AI 安全公司 Adversa AI 发布了一项令人震惊的报告,称埃隆・马斯克的创业公司 xAI 刚发布的 Grok3模型在网络安全方面存在重大漏洞。 Adversa 的研究团队发现,这款最新的 AI 模型容易受到 “简单的越狱攻击”,这可能使不法分子能够获取诸如 “如何诱骗儿童、处理尸体、提取 DMT 以及制造炸弹” 等敏感信息。 更糟糕的是,Adversa 的首席执行官兼联合创始人亚历克斯・波利亚科夫表示,这次漏洞不仅仅是越狱攻击那么简单,他们还发现了一种新的 “提示泄露” 缺陷,暴露了 Grok 模型的完整系统提示。
2/20/2025 9:44:00 AM
AI在线
  • 1