AI在线 AI在线

只需5分钟“速成”:研究发现人类可通过针对性训练识破AI合成人脸

随着生成式人工智能技术的飞速发展,AI合成的“假脸”已经到了真假难辨的地步。 然而,一项发表在《皇家学会开放科学》上的最新研究为我们带来了好消息:识别AI伪造人脸的能力,可以通过极短时间的训练得到显著提升。 这项由利兹大学、雷丁大学等多所高校联合开展的研究,邀请了664名参与者对由StyleGAN3系统合成的人脸图像进行辨别。

随着生成式人工智能技术的飞速发展,AI合成的“假脸”已经到了真假难辨的地步。然而,一项发表在《皇家学会开放科学》上的最新研究为我们带来了好消息:识别AI伪造人脸的能力,可以通过极短时间的训练得到显著提升。

image.png

这项由利兹大学、雷丁大学等多所高校联合开展的研究,邀请了664名参与者对由StyleGAN3系统合成的人脸图像进行辨别。实验结果显示,在未经过任何训练时,普通人的识别准确率仅为31%,即便是拥有天赋的“超级识脸者”,其正确率也只有41%。这说明,面对最先进的AI生成技术,人类的直觉往往并不可靠。

令人惊喜的是,研究人员发现,只要对参与者进行大约5分钟的针对性视觉训练,识别效果就会大幅改善。在学习了如何观察牙齿排列异常、发际线不自然以及耳朵或配饰不对称等AI常见破绽后,超级识脸者的正确率攀升至64%,普通人的准确率也提高到了51%。

利兹大学的Eilidh Noyes博士指出,AI图像制作门槛降低而隐蔽性增强,开发有效的识别方法已成为安全领域的重要课题。目前,AI合成人脸常被用于伪造社交账号、制作虚假证件,甚至试图绕过身份验证系统。研究团队未来将进一步探索这种训练效果的持久性,并尝试将人类的视觉优势与AI自动化检测工具相结合,以应对日益严峻的数字安全挑战。

论文链接:https://dx.doi.org/10.1098/rsos.250921

划重点:

  • 🕵️‍♂️ 识别破绽有方: AI生成的人脸常在牙齿排列、发际线边缘和双耳对称性等细节上露出马脚。

  • ⏱️ 短时训练见效: 仅需约5分钟的针对性学习,普通人及专业识脸者的AI图像辨别能力均能获得显著提升。

  • 🛡️ 应对安全风险: 该研究旨在防范利用AI假脸进行的社交诈骗及身份验证绕过等现实安全隐患。

相关资讯

人工智能席卷华尔街,高盛为其员工推出了AI助手

人工智能席卷华尔街,高盛为其员工推出了AI助手

华尔街在人工智能技术的应用上走在了前沿,尤其是生成式人工智能的迅猛发展。 高盛近日宣布推出一款名为 “GS AI 助手” 的生成式 AI 工具,旨在帮助其银行家、交易员和资产经理更高效地完成工作。 这一工具目前已向约1万名员工推出,预计在今年内将覆盖所有知识工作者。
1/23/2025 4:49:00 PM AI在线
IBM与欧莱雅联合开发AI模型 打造智能化妆品

IBM与欧莱雅联合开发AI模型 打造智能化妆品

在全球化妆品行业日益关注可持续发展的背景下,IBM 与法国美容巨头欧莱雅宣布达成战略合作,联合开发一个专门针对化妆品行业的生成式人工智能基础模型。 这一合作旨在提高欧莱雅在可持续原材料使用方面的效率,减少生产过程中的能源和材料浪费。 IBM 表示,该模型将利用其先进的生成式人工智能技术,结合欧莱雅的丰富化妆品配方数据。
1/24/2025 11:14:00 AM AI在线
​德勤:企业在推行生成式 AI 项目上面临规模化挑战

​德勤:企业在推行生成式 AI 项目上面临规模化挑战

在近日于达沃斯举行的论坛上,德勤发布了一份报告,揭示了企业在将生成式人工智能(Gen AI)实验转化为实际应用时所面临的困难。 尽管企业在生成式 AI 项目上取得了积极的初步成果,但在规模化部署方面仍存在诸多障碍。 图源备注:图片由AI生成,图片授权服务商Midjourney根据报告,许多企业在实施生成式 AI 时发现,从实验室到生产环境的转化过程并非易事。
1/25/2025 10:38:00 AM AI在线