随着人工智能生成内容（AIGC）技术的飞速发展，社交媒体上那些栩栩如生的图片和视频让人难以分辨真假。为了应对这一挑战，研究人员联合推出了 “IVY-FAKE”—— 一个首个专门针对图像和视频的可解释性检测框架，旨在让 AI 不仅能识别内容的真实性，更能清晰解释其判断依据。
在 AIGC 时代，传统的检测工具往往处于 “黑箱” 状态，虽然能够判断某个图像或视频是否为 AI 生成，但却无法提供详细的解释。这样的局限性不仅影响了用户的信任，也使得技术在实际应用中面临障碍。IVY-FAKE 的诞生正是为了解决这一问题。该框架不仅能够识别图像和视频的伪造，还能详细指出哪些具体的视觉伪影导致了判定的结果。
图源备注：图片由AI生成，图片授权服务商Midjourney
IVY-FAKE 的核心在于其大规模、多模态的数据集和先进的检测模型。数据集包含超过15万张图像和视频，覆盖多种内容类型，并附有详细的自然语言推理说明，解释为何判定某样本为真实或伪造。这种详尽的标注，超越了以往仅提供简单 “真” 或 “假” 标签的方式，使得模型的透明度和可信度大大提升。
与此同时，IVY-XDETECTOR 模型的提出，也为可解释性检测的实现提供了技术支撑。该模型采用了动态分辨率处理和渐进式多模态训练框架，能更好地理解高分辨率图像和视频的特征。研究者们期望，通过这一框架，能够推动 AIGC 检测的统一发展，提升其在实际场景中的应用效果。
随着 AI 生成内容的普及，IVY-FAKE 的推出无疑为我们应对虚假信息和内容溯源问题提供了新的解决方案，让我们能够更有信心地辨别内容的真实与否。
