AI在线 AI在线

Epoch AI 预言:最快 1 年内,推理模型步伐将放缓

非营利 AI 研究机构 Epoch AI 最新发布报告,指出 AI 企业难以从推理模型中,持续榨取巨大性能收益,最快在一年内,推理模型的进步将放缓。

非营利 AI 研究机构 Epoch AI 最新发布报告,指出 AI 企业难以从推理模型中,持续榨取巨大性能收益,最快在一年内,推理模型的进步将放缓。

报告基于公开数据和假设,强调了计算资源的限制和研究开销的增加。AI 行业长期依赖这些模型来提升基准表现,但这种依赖性正面临挑战。

该机构分析师 Josh You 指出推理模型的兴起,源于其在特定任务上的出色表现。例如,OpenAI 的 o3 模型在最近几个月里,主要提升数学和编程技能。

而这些推理模型通过增加计算资源来解决问题,从而提升性能,不过作为代价,这些推理模型需要更多计算来处理复杂任务,因此比传统模型耗时更长。

Epoch AI 预言:最快 1 年内,推理模型步伐将放缓

AI在线注:推理模型的训练过程先是基于海量数据训练一个常规模型,然后应用强化学习技术。该技术像给模型提供“反馈”一样,帮助它优化对难题的解决方案。这种方法推动了 AI 的快速迭代,但也暴露了潜在的瓶颈。

OpenAI 等前沿 AI 实验室正加大对强化学习的投资。公司表示,在训练 o3 时,使用了约 10 倍于前代 o1 的计算资源,大部分用于强化学习阶段。研究者 Dan Roberts 透露,OpenAI 的未来计划将优先强化学习,并投入更多计算力,甚至超过初始模型训练的水平。

这种策略加速了模型的改进,但 Epoch 的分析提醒,这种改进并非没有上限,计算资源的增加会遇到物理和经济约束。

Josh You 在分析中详细解释了性能增长的差异。标准 AI 模型训练的性能目前每年翻番,而强化学习的性能每 3-5 个月增长十倍。这种快速增长可能到 2026 年与整体 AI 前沿进展趋同。

他强调,推理模型的规模化面临不止计算问题,还包括高研究开销:“如果研究需要持续的高开销,推理模型可能无法达到预期规模”。

相关资讯

简化芯片设计传统,AI训练的新型算法正改变芯片研发范式

编辑丨&自1971年第一个商用微处理器的草图面世以来,芯片设计已经取得了长足的进步。 但是,随着芯片变得越来越复杂,设计人员必须解决的问题也越来越复杂。 而我们目前的工具并不总是能胜任这项任务。
1/7/2025 2:51:00 PM
ScienceAI

光中介层可能在 2025 年开始加速 AI

编辑丨toileter光纤电缆正在逐渐靠近高性能计算机中的处理器,用玻璃取代铜连接。 科技公司希望通过将光学连接从服务器外部移动到主板上,然后让它们与处理器并排放置,从而加速 AI 并降低其能源成本。 现在,科技公司准备在寻求成倍增加处理器潜力的道路上走得更远——通过滑入处理器下面的连接。
2/5/2025 2:30:00 PM
ScienceAI

2024 年 AI 十大故事,透视技术变革与未来挑战

编辑 | 20492024 年,人工智能技术持续改变着我们的生活和工作方式。 IEEE Spectrum 精选了年度最具影响力的 10 个 AI 故事,从技术突破到社会影响,全方位展现了 AI 发展的现状与挑战。 这些故事不仅反映了生成式 AI 的革命性进展,也揭示了其存在的局限与争议。
2/6/2025 2:06:00 PM
ScienceAI
  • 1