AI在线 AI在线

数据

ICLR 2025 Oral | 训练LLM，不只是多喂数据，PDS框架给出最优控制理论选择

ICLR 2025 Oral | 训练LLM，不只是多喂数据，PDS框架给出最优控制理论选择
本文第一作者顾煜贤（）为清华大学计算机系四年级直博生，师从黄民烈教授，研究方向为语言模型的高效训练与推理方法。 他曾在 ACL，EMNLP，ICLR 等会议和期刊上发表近 20 篇论文，多次进行口头报告，Google Scholar 引用数 2600 ，曾获 2025 年苹果学者奖学金。 本篇论文为他在微软亚洲研究院实习期间所完成。
4/24/2025 9:25:00 AM
机器之心
清华&英伟达揭露ICML最佳论文隐藏数值问题，简单掩码模型是等价更好选择 | ICLR25

清华&英伟达揭露ICML最佳论文隐藏数值问题，简单掩码模型是等价更好选择 | ICLR25
掩码离散扩散模型，可能并没有看上去那么厉害。 这是清华及英伟达研究人员最新提出的观点。 他们发现，作为离散扩散模型中性能最强的类别，掩码扩散模型可能有点“被包装过度”了。
4/23/2025 9:44:54 AM
Sebastian Raschka长文：DeepSeek-R1、o3背后，RL推理训练正悄悄突破上限

Sebastian Raschka长文：DeepSeek-R1、o3背后，RL推理训练正悄悄突破上限
著名 AI 研究者和博主 Sebastian Raschka 又双叒叕更新博客了。 这次的主题是《LLM 推理的强化学习现状》。 博客地址： AI 社区很热闹，尤其是 Llama 4 和 GPT-4.5 等新旗舰模型的发布。
4/22/2025 9:12:00 AM
机器之心
让DeepSeek更可靠！清华提出Hyper-RAG，用超图提升知识建模精准度

让DeepSeek更可靠！清华提出Hyper-RAG，用超图提升知识建模精准度
大语言模型（Large Language Models, LLMs）在面对专业领域知识问题的时候，经常会生成偏离既定事实的回复，或模糊不清的回答，从而带来了潜在应用风险。 检索增强生成（Retrieval-Augmented Generation, RAG）通过构建特定领域知识库，采用基于向量的检索技术来提取与给定查询相关的信息，从而使LLM能够生成更准确、更可靠的内容。 然而，现有的基于图的RAG方法受限于仅能表示实体之间的成对关联，无法表示那些更复杂的多实体间的群组高阶关联，导致数据结构化过程中这些高阶信息的丢失。
4/21/2025 8:45:00 AM
新智元
最新万字长文！强化学习之父联合谷歌RL副总裁：未来不是靠强化学习算法而是「经验流」

最新万字长文！强化学习之父联合谷歌RL副总裁：未来不是靠强化学习算法而是「经验流」
就像Sam Altman 之前在博客文章中写的那样：回顾人工智能的发展，深度学习确实奏效了！ 现在强化学习正如火如荼，OpenAI o系列，DeepSeek R0都显示出了强化学习的巨大威力，人类生成的数据推动了人工智能的惊人进步，但接下来会发生什么？ 谷歌强化学习副总裁 David Silver与图灵奖获得者，强化学习之父Richard Sutton最新论文《Welcome to the Era of Experience》 犹如《TheBitterLesson（苦涩的教训）》的续章给我们当头一棒：人类数据正在见顶，经验是下一个超级数据源，真正能推动AI跃升的数据，必须随模型变强而自动增长。
4/18/2025 10:01:41 AM
AI寒武纪
异议！顶流AI决战「逆转裁判」：o1险胜Gemini 2.5登顶、Llama 4零分垫底

异议！顶流AI决战「逆转裁判」：o1险胜Gemini 2.5登顶、Llama 4零分垫底
当谈到AI为何能从「预测下一个词」中诞生智慧时，Ilya Sutskever曾用一个生动的比喻来解释。 想象你在读一本悬疑小说，如果仅凭前面的线索就能在最后一页推断出罪犯是谁，那么你对这个故事的理解无疑是深刻的。 同样，AI通过学习海量文本，掌握了从字面到语义的「线索」，展现出惊人的智能。
4/18/2025 9:07:00 AM
新智元
智能体版《苦涩的教训》，图灵奖得主Sutton、谷歌RL大佬Silver新作：超人智能靠经验

智能体版《苦涩的教训》，图灵奖得主Sutton、谷歌RL大佬Silver新作：超人智能靠经验
人类生成的数据推动了人工智能的惊人进步，但接下来会怎样呢？ 几天前，Google DeepMind 强化学习副总裁 David Silver 参与了一场播客访谈节目，探讨了如何从依赖人类数据的时代迈向自主学习的时代。 与此同时，David Silver 和他的老师、2024 年图灵奖得主 Richard Sutton 合作撰写的论文《Welcome to the Era of Experience》称人们正站在人工智能新时代的门槛上，并有望达到前所未有的水平；同时展望了新一代智能体，认为它们将主要通过经验来学习，获得超越人类的能力。
4/17/2025 9:10:00 AM
机器之心
视频推理R1时刻，7B模型反超GPT-4o！港中文清华推出首个Video-R1

视频推理R1时刻，7B模型反超GPT-4o！港中文清华推出首个Video-R1
语言模型的推理刚火完，视频AI也开始「卷」起来了。 这次出手的是港中文 清华组合，直接把强化学习里的R1玩法搬到了视频领域，整出了全球首个视频版R1模型：Video-R1。 别看它只有7B参数，但它在李飞飞提出的VSI-Bench基准中，竟然超越了GPT-4o！
4/16/2025 3:28:31 PM
新智元
GPT-4.1全网实测来袭，惨遭谷歌Gemini碾压！大佬猜测：从GPT-4.5蒸馏的

GPT-4.1全网实测来袭，惨遭谷歌Gemini碾压！大佬猜测：从GPT-4.5蒸馏的
不过两月，GPT-4.5正式出局，前浪把后浪拍在了沙滩上。 GPT-4.1家族的出世，以更强编码性能，百万token上下文，更具性价比的价格，直接击穿了4.5。 nano版的GPT-4.1性能足以媲美GPT-4o mini，而且速度更快，价格更便宜。
4/16/2025 9:30:16 AM
新智元
英伟达含量为零！华为密集模型性能比肩DeepSeek-R1，纯昇腾集群训练

英伟达含量为零！华为密集模型性能比肩DeepSeek-R1，纯昇腾集群训练
密集模型的推理能力也能和DeepSeek-R1掰手腕了？ 华为利用纯昇腾集群训练出的盘古Ultra，在数学竞赛、编程等推理任务当中，和R1打得有来有回。 关键是模型参数量只有135B，整个训练过程零英伟达含量，而且没有出现损失尖峰。
4/16/2025 8:50:00 AM
量子位
GPT-4.1淘汰了4.5！全系列百万上下文，主打一个性价比 关注前沿科技 量子位 2025年04月15日 09:44

GPT-4.1淘汰了4.5！全系列百万上下文，主打一个性价比 关注前沿科技 量子位 2025年04月15日 09:44
4.1与4.5孰大？ OpenAI刚刚给出答案：发布GPT-4.1，比GPT-4.5强的那种。 新模型系列更新，一共带来三个版本：GPT-4.1，GPT-4.1 mini、GPT-4.1 nano——与通常中杯大杯超大杯的设置不同，这回翻译过来，是中杯、小杯、超小杯。
4/15/2025 9:50:06 AM
量子位
Gemini 2.5编程全球霸榜，谷歌重回AI王座！神秘模型曝光，奥特曼迎战

Gemini 2.5编程全球霸榜，谷歌重回AI王座！神秘模型曝光，奥特曼迎战
谷歌，彻底打了一场漂亮的翻身仗。 aider多语言编程基准测试显示，Gemini 2.5 Pro近出世半个多月，编程能力已经是全球第一，口碑一众超越Claude 3.7 Sonnet。 不仅如此，除了DeepSeek，它的性价比也是最优的，成本低至6美金。
4/15/2025 9:03:00 AM
新智元
吉卜力爆红背后，关键推手另有其人！GPT-4o竟封奥特曼为AGI之王

吉卜力爆红背后，关键推手另有其人！GPT-4o竟封奥特曼为AGI之王
AI版「三国杀」卡牌来了。 AI初创Nous Research联合创始人兼后训练负责人Teknium，有个好点子：把AI名流做成卡牌游戏怎么样？ 上周，他用GPT-4o生一堆AI流行人物卡牌，结果非常棒。
4/14/2025 9:25:00 AM
新智元
AI奥数大奖出炉，英伟达摘桂冠！14B破解34题暴击DeepSeek R1

AI奥数大奖出炉，英伟达摘桂冠！14B破解34题暴击DeepSeek R1
第二届人工智能数学奥林匹克竞赛（AIMO2）开奖了！ 作为大赛顾问委员会的一员，陶哲轩激动地宣布了最新的结果——英伟达团队AI成功破解了34道题（共50题）。 这一次，50道测试题保持了与AIMO1相同「数值答案」形式基础上，进一步提升了「抗暴力破解」的难度。
4/14/2025 9:15:00 AM
新智元
GPT-4.1偷偷开跑？神秘模型上线三天已被玩疯，网友发现大量OpenAI痕迹

GPT-4.1偷偷开跑？神秘模型上线三天已被玩疯，网友发现大量OpenAI痕迹
上线仅三天的神秘模型，已经鲨疯了！ 大模型聚合平台OpenRouter新推出的Optimus Alpha，已经处理了772亿Token，平均每天超过200亿。 并且这个数字还在上升，日Token处理已超过340亿，排名第二，并在Trending榜单上位列第一。
4/14/2025 9:00:00 AM
量子位
算法不重要，AI的下一个范式突破，「解锁」新数据源才是关键

算法不重要，AI的下一个范式突破，「解锁」新数据源才是关键
众所周知，人工智能在过去十五年里取得了令人难以置信的进步，尤其是在最近五年。 回顾一下人工智能的「四大发明」吧：深度神经网络→Transformer 语言模型→RLHF→推理，基本概括了 AI 领域发生的一切。 我们有了深度神经网络（主要是图像识别系统），然后是文本分类器，然后是聊天机器人，现在我们又有了推理模型。
4/12/2025 3:57:00 PM
机器之心
预训练还没终结！港中文清华等提出「三位一体」框架，持续自我进化

预训练还没终结！港中文清华等提出「三位一体」框架，持续自我进化
当前（多模态）大模型正深陷「数据饥渴」困境：其性能高度依赖预训练阶段大量高质量（图文对齐）数据的支撑。 然而，现实世界中这类高价值数据资源正在迅速耗尽，传统依赖真实数据驱动模型能力增长的路径已难以为继。 在NeurIPS 2024会议上，OpenAI联合创始人Ilya Sutskever明确指出：「Pre-training as we know it will end」， 这一判断是对传统预范式极限的清晰警示。
4/11/2025 9:35:34 AM
新智元
芯片设计效率提升2.5倍，中科大华为诺亚联合，用GNN+蒙特卡洛树搜索优化电路设计 | ICLR2025

芯片设计效率提升2.5倍，中科大华为诺亚联合，用GNN+蒙特卡洛树搜索优化电路设计 | ICLR2025
芯片设计是现代科技的核心，逻辑优化（Logic Optimization, LO）作为芯片设计流程中的关键环节，其效率直接影响着芯片设计的整体性能。 然而，传统逻辑优化算子由于存在大量无效和冗余的变换，导致优化过程耗时较长，成为制约芯片设计效率的主要瓶颈。 为解决这一挑战，中科大王杰教授团队（MIRALab）和华为诺亚方舟实验室（HuaweiNoah’sArkLab）联合提出了基于神经符号函数挖掘的高效逻辑优化方法，显著提升传统关键逻辑优化算子运行效率最高达2.5倍。
4/10/2025 9:19:52 AM
量子位