AI在线 AI在线

训练

何恺明改进了谢赛宁的REPA：极大简化但性能依旧强悍

何恺明改进了谢赛宁的REPA：极大简化但性能依旧强悍
在建模复杂的数据分布方面，扩散生成模型表现出色，不过它的成果大体上与表征学习（representation learning）领域关联不大。 通常来说，扩散模型的训练目标包含一个专注于重构（例如去噪）的回归项，但缺乏为生成学习到的表征的显式正则化项。 这种图像生成范式与图像识别范式差异明显 —— 过去十年来，图像识别领域的核心主题和驱动力一直是表征学习。
6/13/2025 8:53:00 AM
CVPR 2025 多模态大一统：斯坦福 x 复旦提出符号主义建模生成式任务

CVPR 2025 多模态大一统：斯坦福 x 复旦提出符号主义建模生成式任务
共同第一作者包括：陈家棋，斯坦福大学访问学者，复旦大学硕士，研究方向为 LLM Agent和大一统模型；朱小烨，华南理工大学本科，研究方向为 LLM Agent、LLM 和强化学习；王越，康奈尔大学本科，研究方向为 LLM Agent、多模态语言模型。 指导老师：Julian McAuley（UCSD）、Li-jia Li (IEEE Fellow, LiveX AI)。 在人工智能内容创作蓬勃发展的今天，跨模态生成技术正在重塑艺术创作和视觉表达的边界。
6/13/2025 8:46:00 AM
深度学习中Batch Size对训练过程如何影响？

深度学习中Batch Size对训练过程如何影响？
之前面试过程中被问到过两个问题：（1）深度学习中batch size的大小对训练过程的影响是什么样的？ （2）有些时候不可避免地要用超大batch，比如人脸识别，可能每个batch要有几万甚至几十万张人脸图像，训练过程中超大batch有什么优缺点，如何尽可能地避免超大batch带来的负面影响？ 面试版回答在不考虑Batch Normalization的情况下（这种情况我们之后会在bn的文章里专门探讨），先给个自己当时回答的答案吧（相对来说学究一点）：(1) 不考虑bn的情况下，batch size的大小决定了深度学习训练过程中的完成每个epoch所需的时间和每次迭代(iteration)之间梯度的平滑程度。
6/13/2025 2:55:00 AM
grok
端到端GUI智能体首次实现“犯错-反思-修正”闭环，模拟人类认知全过程

端到端GUI智能体首次实现“犯错-反思-修正”闭环，模拟人类认知全过程
端到端多模态GUI智能体有了“自我反思”能力！ 南洋理工大学MMLab团队提出框架GUI-Reflection。 随着多模态大模型的发展，端到端GUI智能体在手机、电脑等设备上的自动化任务中展示出巨大潜力。
6/12/2025 8:58:00 AM
谁说强化学习只能是蛋糕上的樱桃，说不定，它也可以是整个蛋糕呢？

谁说强化学习只能是蛋糕上的樱桃，说不定，它也可以是整个蛋糕呢？
谁说强化学习只能是蛋糕上的樱桃，说不定，它也可以是整个蛋糕呢？ 在 2016 年的一次演讲中，Yann LeCun 曾将强化学习比喻成蛋糕上的樱桃。 他提到，「如果把智能比作一块蛋糕，那么无监督学习就是蛋糕的主体，监督学习就是蛋糕上的糖霜，而强化学习则是糖霜上的樱桃。
6/11/2025 2:45:57 PM
10%训练数据超越100%表现，机器人学习领域迎来重要突破

10%训练数据超越100%表现，机器人学习领域迎来重要突破
第一作者陈昌和是美国密歇根大学的研究生，师从 Nima Fazeli 教授，研究方向包括基础模型、机器人学习与具身人工智能，专注于机器人操控、物理交互与控制优化。 第二作者徐晓豪是美国密歇根大学机器人学院博士生，研究涵盖3D 感知、视觉语言模型驱动的多模态异常检测及鲁棒三维重建。 共同第一作者 Quantao Yang 是瑞典皇家理工学院博士后，师从 Olov Andersson 教授，研究聚焦于利用视觉语言模型与大型语言模型提升自主系统在动态环境中的感知与导航能力。
6/11/2025 2:45:26 PM
SOTA级视频编辑新方法：无需训练一句话编辑视频，背景保持100%

SOTA级视频编辑新方法：无需训练一句话编辑视频，背景保持100%
传统的视频编辑工作流，正在被AI彻底重塑。 AI的视频编辑方法总是存在一些问题：例如视频运动不连贯、编辑后的视频产生意外变化等……经过分析，这些问题的产生最终大都指向同一原因——反演-编辑范式。 因此，西湖大学AGILab提出了一种全新的无需反演和训练的视频编辑新方法：FlowDirector。
6/11/2025 9:10:00 AM
不是视频模型“学习”慢，而是LLM走捷径｜18万引大牛Sergey Levine

不是视频模型“学习”慢，而是LLM走捷径｜18万引大牛Sergey Levine
这是UC伯克利大学计算机副教授Sergey Levine最新提出的灵魂一问。 他同时是Google Brain的研究员，参与了Google知名机器人大模型PALM-E、RT1和RT2等项目。 Sergey Levine在谷歌学术的被引用次数高达18万次。
6/11/2025 8:59:21 AM
OpenAI新模型，被曝秘密训练中！万字硬核长文直指o4核心秘密

OpenAI新模型，被曝秘密训练中！万字硬核长文直指o4核心秘密
OpenAI的o4，已经在训练了？ 就在最近，SemiAnalysis发表了一篇硬核长文博客，爆料了不少大模型圈的内幕消息。 其中，一些最核心的亮点，先一睹为快：OpenAI正在训练一个规模介于GPT-4.1和GPT-4.5之间的新模型下一代推理模型o4将基于GPT-4.1展开RL训练强化学习改变了实验室结构，甚至是大厂未来研究的侧重方向和优先级定义奖励函数难上加难，往往AI钻空子之后，漏洞才能被发现不牺牲LLM任何性能，不用合并权重，RL另一条路——数据混合与预训练不同，RL可持续更新Scaling模型能力，DeepSeek-R1是典例高质量数据是Scaling强化学习的护城河训练小模型，蒸馏效果要比RL更好新一轮预训练已开始首先，让我们看看其中最硬的内容——关于OpenAI的全新模型。
6/11/2025 8:54:52 AM
比自回归更灵活、比离散扩散更通用，首个纯Discrete Flow Matching多模态巨兽降临

比自回归更灵活、比离散扩散更通用，首个纯Discrete Flow Matching多模态巨兽降临
王劲，香港大学计算机系二年级博士生，导师为罗平老师。 研究兴趣包括多模态大模型训练与评测、伪造检测等，有多项工作发表于 ICML、CVPR、ICCV、ECCV 等国际学术会议。 近年来，大型语言模型（LLMs）在多模态任务中取得了显著进展，在人工通用智能（AGI）的两大核心支柱（即理解与生成）方面展现出强大潜力。
6/10/2025 9:18:53 AM
无需SFT也不用RL，样本级推理优化神器SLOT来了，准确率轻松+10%

无需SFT也不用RL，样本级推理优化神器SLOT来了，准确率轻松+10%
试想一下，如果你参加考试时，可以在答题前花几秒钟「适应」一下这道具体的题目，你的表现会不会更好？ 这正是西湖大学研究团队在最新论文中提出的核心思想。 他们开发的 SLOT（Sample-specific Language Model Optimization at Test-time）方法，把每个输入 prompt 本身当作一份「迷你训练数据」，让模型在生成答案前先「学习」理解这个具体问题。
6/10/2025 9:05:00 AM
3B超越DeepSeek，大模型终于理解时间了！Time-R1一统过去/未来/生成

3B超越DeepSeek，大模型终于理解时间了！Time-R1一统过去/未来/生成
时间，是我们日常生活中最基础的概念。 但对于大语言模型（LLM）来说，它们或许能写诗作画、通晓古今，但在真正理解和运用时间概念时，却常常显得力不从心。 这个技术短板来自于大模型的底层设计，无法避免：训练语料库是静态的，存在知识截断时间；在按非时间顺序的语料训练过程中，跨越不同时期的时间信息是同时处理的，不像人类逐步接收知识，阻碍了在事件与其对应时间之间建立可靠的逻辑映射。
6/9/2025 3:25:03 PM
大模型强化学习新突破——SPO新范式助力大模型推理能力提升！

大模型强化学习新突破——SPO新范式助力大模型推理能力提升！
当前，强化学习（RL）在提升大语言模型（LLM）推理能力方面展现出巨大潜力。 DeepSeek R1、Kimi K1.5 和 Qwen 3 等模型充分证明了 RL 在增强 LLM 复杂推理能力方面的有效性。 然而，要实现有效的强化学习，需要解决一个根本性的挑战，即信用分配问题（credit assignment）：在大语言模型的场景下，如何将整个序列（LLM 的回复）最终的评估结果，归因到序列中具体的决策动作（token）上。
6/9/2025 9:32:35 AM
顶流AI，人设崩了！6小时被攻破，泄露高危品指南，惨遭网友举报

顶流AI，人设崩了！6小时被攻破，泄露高危品指南，惨遭网友举报
只要6小时，顶尖大模型Claude 4 Opus「安全防线」被攻破！ AI安全研究机构FAR.AI联合创始人Adam Gleave透露，仅用6小时，研究人员Ian McKenzie就成功诱导Claude 4生成了长达15页的化学武器制作指南。 Ian McKenzie回应称：Claude 4传授的内容，比他预期的还要多。
6/9/2025 8:53:00 AM
扩散语言模型扛把子LLaDA迎来新版本，数学、代码、对齐能力均提升

扩散语言模型扛把子LLaDA迎来新版本，数学、代码、对齐能力均提升
本文介绍的工作由中国人民大学高瓴人工智能学院李崇轩、文继荣教授团队与蚂蚁集团共同完成。 朱峰琪、王榕甄、聂燊是中国人民大学高瓴人工智能学院的博士生，导师为李崇轩副教授。 该研究基于团队前期发布的 8B 扩散语言模型 LLaDA（国内率先做到真正可用的扩散语言模型，是后续很多研究的主干基础模型），探索了扩散语言模型的偏好对齐方法，提出了方差缩减的偏好优化方法 VRPO，并利用 VRPO 对 LLaDA 进行了强化对齐，推出了 LLaDA 1.5。
6/9/2025 8:47:00 AM
阿里智能体多轮推理超越GPT-4o，开源模型也能做Deep Research

阿里智能体多轮推理超越GPT-4o，开源模型也能做Deep Research
能够完成多步信息检索任务，涵盖多轮推理与连续动作执行的智能体来了。 通义实验室推出WebWalker（ACL2025）续作自主信息检索智能体WebDancer。 WebDancer 通过系统化的训练范式——涵盖从数据构建到算法设计的全流程——为构建具备长期信息检索能力的智能体提供了明确路径。
6/6/2025 2:17:11 PM
清华给电子显微镜加上Agent，DeepSeek V3全程调度，数天流程缩短至几分钟

清华给电子显微镜加上Agent，DeepSeek V3全程调度，数天流程缩短至几分钟
AI Agent又解锁了一个领域！ 清华大学牵头，与西北工业大学以及上海AI lab等机构推出了电镜领域的AI agent——AutoMat。 它相当于一位精准的“地图翻译官”，把原子级 STEM 图像自动转成标准 CIF 结构，并一步到位给出形成能等关键物性。
6/6/2025 2:14:09 PM
Qwen&清华团队颠覆常识：大模型强化学习仅用20%关键token，比用全部token训练还好

Qwen&清华团队颠覆常识：大模型强化学习仅用20%关键token，比用全部token训练还好
近期arxiv最热门论文，Qwen&清华LeapLab团队最新成果：在强化学习训练大模型推理能力时，仅仅20%的高熵token就能撑起整个训练效果，甚至比用全部token训练还要好。 团队用这个发现在Qwen3-32B上创造了新的SOTA记录：AIME’24上达到63.5分，AIME’25上达到56.7分，这是600B参数以下直接从base模型训练的最高分。 最大响应长度从20k延长到29k，AIME’24的分数更是飙升到了68.1分。
6/6/2025 9:13:00 AM