AI在线 AI在线

OpenDataArena全面升级版正式上线,四大核心模块重构数据价值评估新格局

为破解长期以来学界与业界难以对数据进行价值量化的困局,上海人工智能实验室(上海 AI 实验室)OpenDataLab 团队在今年 8 月正式开源了首个全面、公正的后训练数据价值评测平台 ——OpenDataArena (ODA) 。 该项目致力于将数据选择从「盲目试错」的炼丹术,转变为一门可复现、可分析、可累积的严谨科学。 在初版系统发布后的数月间,项目通过团队内部及小范围社区用户的深度使用,完成了高强度的技术验证与功能打磨。

图片

为破解长期以来学界与业界难以对数据进行价值量化的困局,上海人工智能实验室(上海 AI 实验室)OpenDataLab 团队在今年 8 月正式开源了首个全面、公正的后训练数据价值评测平台 ——OpenDataArena (ODA) 。该项目致力于将数据选择从「盲目试错」的炼丹术,转变为一门可复现、可分析、可累积的严谨科学。

在初版系统发布后的数月间,项目通过团队内部及小范围社区用户的深度使用,完成了高强度的技术验证与功能打磨。伴随着评测规模、工具链和分析能力的持续扩展,近期,我们终于迎来了 ODA 的全面升级 —— 一个结论更系统、功能更完整、视角更多元的正式版本,该项目正式面向全体开发者开放。

图片
  • 项目主页: https://opendataarena.github.io/

  • 开源工具: https://github.com/OpenDataArena/OpenDataArena-Tool

  • 数据集: https://huggingface.co/OpenDataArena/datasets

  • 报告链接:https://arxiv.org/pdf/2512.14051 

ODA 的核心理念非常明确:数据价值必须通过真实的训练来检验,而非主观的臆测。为此,我们立足于全新发布的正式版本,对平台进行了体系化的深度重构,由四个相互支撑的核心模块组成了这套完整的数据评测基础设施。这标志着 ODA 已经从最初的功能验证阶段,发展成为可以对数据价值进行系统化评测的重要平台。

图片

一、数据价值排行榜

首先,ODA 项目打造了数据价值排行榜。通过构建一套统一的训练与评测流程,让数据在固定的模型规模(如 Llama3、Qwen2/3 7-8B)和训练配置下,对来自不同领域的文本及多模态数据进行横向评测。

评测覆盖通用、数学、代码、科学与长链推理等能力维度,这使得数据价值能直接通过下游任务(如数学、代码、推理等)的实际表现来量化,而非主观判断。目前,ODA 平台已经从初版仅仅只有文本数据的评测,扩展到了多模态数据集的质量评测,并以最先进的 Qwen3-VL 作为真实训练的基准模型。

图片

二、数据血缘探索器

其次,针对数据界常见的「近亲繁殖」问题,ODA 全新发布「数据血缘探索器」。它像绘制族谱一样,清晰地刻画出数据集之间的继承、混合与蒸馏关系。通过结构化建模与可视化展示,研究者可以直观地看到不同数据集之间的高度重叠与依赖关系,看到社区中被反复复用的核心数据源,以及更清晰的发现潜在的训练–测试污染与「近亲繁殖」问题。这一能力让「为什么某些数据集长期霸榜」不再是经验结论,而是可以被结构性解释的现象。

图片

三、多维数据评分器

除了看模型结果,ODA 还从数据本体出发,对数据质量进行细粒度刻画。ODA 提供了一个细粒度的评分框架,基于模型评估、LLM-as-a-Judge 与启发式指标等多种方法,从指令复杂度、响应质量、多样性等维度对数据进行深度剖析,生成每份数据的专属「体检报告」,并已对千万级样本的评分结果进行开源。 这使得研究者不仅能判断「哪份数据更有效」,还能进一步分析它为什么有效。值得一提的是,在初版的基础上,ODA 多维数据评分器目前已经扩展支持 80+ 种多维度的评分器,支持用户一键方便的对所需要的数据维度进行打分。

图片

四、全开源评测工具箱

图片

此外,为了促进社区共建,ODA 完全开源其训练、评分和可视化工具,覆盖从模型微调到结果复现的完整流程,以及上述精细化的数据评价打分器。ODA 工具支持用户一键复现结果,或对自己私有数据进行标准化评测,实现真正意义上的横向对比。

五、硬核发现:那些被忽视的数据真相

在对 120 多个主流数据集进行超过 600 次训练和 4000 万条数据的深度分析后,OpenDataLab 团队得出了一系列具有指导意义的「硬核」结论,足以重塑业界对高质量数据的认知 :

1. 解答质量比问题复杂度更关键: 实验发现,单纯增加问题的复杂度并不能有效预测数据价值。相反,解答的长度(推理过程的充分性)与最终质量呈强正相关,这在数学和科学类任务中尤为突出。

2. 代码数据的「异类」属性: 搞代码模型不能照搬数学的逻辑。代码讲究简洁精准,长篇大论反而会损害效果。这意味着通用的评分标准在代码领域经常失效,必须建立针对性的评估体系。

3. 开源数据「近亲繁殖」严重: ODA 的数据血缘分析显示,社区反复依赖的核心数据源比较有限(例如 GSM8K 被多次复用),由此造成了严重的数据同质化。借助数据血缘分析,更极端的发现是,数据污染越来越严重:大量训练样本直接与测试集发生重叠。

4.「少即是多」的局限性: 尽管 LIMA 等研究曾宣称少量精选数据即可成功,但 ODA 的实验证明这极度依赖模型底座的先天能力。如果底座一般,过少的数据量会导致性能崩塌。真正稳健的路径是追求「高质量且具规模(High-Density Volume)」 的数据配方。

5. 为什么有些数据集能霸榜? 以 AM-Thinking-distilled 为代表的超大规模聚集型数据集,能够同时在数学与代码任务上取得明显的优势,关键原因在于其跨领域融合能力。它通过递归方式整合了 435 个数据节点,显著提升了数据分布的多样性与互补性。

6. 数据可以弥补底座差距: 这是一个令人振奋的发现。即使 Llama 3.1 和 Qwen 2.5 之间存在显著的底座分差,只要用上如 OpenThoughts3-1.2M 这样的高质量微调数据,这个差距几乎可以被抹平。可以说,好的数据配方真的能让模型「逆天改命」。

未来展望

OpenDataArena 的远景,绝不不满足于仅仅建立一个排行榜,更致力于将数据研发从「玄学」推向可复现、可分析的「科学」。未来,ODA 将持续进化,探索智能体数据,金融、医疗等垂直领域的深层价值。

在这个数据决定 AI 上限的时代,唯有手握科学的标尺,才能精准丈量每一份数据的真实「重量」。

相关资讯

钉钉与OpenDataLab联合推出文档解析工具DLU

钉钉与OpenDataLab联合推出文档解析工具DLU

在快速发展的人工智能领域,OpenDataLab 与钉钉携手推出了一款名为 DLU 的文档解析工具,旨在帮助企业用户更高效地处理和理解专业内容。 这款工具基于强大的智能文档解析引擎 MinerU 开发,预计将在近期开源,助力 AI 应用的普及与落地。 MinerU 在 GitHub 上已有超过 4 万的星标,其 2.0 版本更是以优异的解析性能受到广泛赞誉。
9/5/2025 3:06:41 PM AI在线
真实科研水平集体不及格!全新基准SFE给主流多模态LLM来了波暴击

真实科研水平集体不及格!全新基准SFE给主流多模态LLM来了波暴击

当前,驱动科学研究的人工智能(AI for Science,AI4S)在单点取得了可观的进展,实现了工具层面的革新,然而要成为「革命的工具」,需要采用「通专融合 AGI」方式。 大模型的突破性能力逐步改变科学研究的模式,而大模型在科学领域的深度应用亟需科学的评测支撑。 现有科学评测面临着两大痛点:现有测试多聚焦知识记忆,而真实科研需要从原始科学数据感知到复杂推理的全链条能力;天文、地球、生命和材料等领域存在大量未开发的多模态数据分析需求。
7/10/2025 10:20:00 AM 机器之心
搜索智能体的关键一课:先立目标,再照镜子

搜索智能体的关键一课:先立目标,再照镜子

随着 AI 能力不断增强,它正日益融入我们的工作与生活。 我们也更愿意给予它更多「授权」,让它主动去搜集信息、分析证据、做出判断。 搜索智能体正是 AI 触达人类世界迈出的重要一步。
10/23/2025 1:22:00 PM 机器之心