AI在线 AI在线

推理

剑桥揭开大模型翻车黑箱！别再怪它不懂推理，是行动出错了

剑桥揭开大模型翻车黑箱！别再怪它不懂推理，是行动出错了
大模型也有「EMO」时刻。 比如，Gemini在Cursor里调试编译错误后，打开了自责「循环模式」，把「I am a disgrace（我很丢脸）」重复了86次。 尽管大模型在复杂推理能力上已有了巨大进步，但上述现象仍使一部分专家认为：思考模型，只提供了「思考的幻觉」，因为当任务被拉长时它们最终会失败。
10/14/2025 9:04:00 AM
登顶多模态推理榜MMMU！UCSD新方法超越GPT-5、Gemini

登顶多模态推理榜MMMU！UCSD新方法超越GPT-5、Gemini
近年来，大语言模型（LLM）在推理能力上的进展显著，其中过程奖励模型（Process Reward Model, PRM）的提出，使得模型能够在推理链条的中间步骤获得监督，从而更稳健地选择合理的解题路径。 这类方法在文本推理任务中已经取得了良好效果，但在扩展至多模态场景 时，仍然面临两个突出挑战：分布偏移：多模态输入空间巨大，训练与推理分布往往存在显著差异；数据质量不均：大规模训练集不可避免地包含噪声或低质量样本，降低了有效监督信号。 因此，如何在多模态推理中有效利用高质量样本，抑制噪声样本的负面影响，成为亟需解决的问题。
9/19/2025 2:53:34 PM
反转！LeCun刚转发「全球最快开源推理模型」，ETH苏黎世就直接打假

反转！LeCun刚转发「全球最快开源推理模型」，ETH苏黎世就直接打假
全球最快开源AI推理模型！ 这个标签为K2‑Think带来轰动效果：福布斯、VentureBeat、Wired、CNBC等媒体争先报道，甚至图灵奖得主转发相关推文介绍！ 然而，苏黎世联邦理工学院计算机科学系SRI实验室的研究者，却泼了一盆冷水：虽然K2-Think不错，但报告的性能被夸大了。
9/16/2025 9:12:00 AM
循环网络能否提升推理能力？分层推理模型已经问世！

循环网络能否提升推理能力？分层推理模型已经问世！
译者 | 晶颜审校 | 重楼通用人工智能（AGI）作为人工智能领域的核心目标，已被学界与产业界广泛探讨多年。 然而，当前主流的大型语言模型（LLMs）即便在性能上表现突出，但在解决复杂推理任务时仍存在显著局限，远未达到AGI所要求的自主推理与问题解决能力。 此类复杂任务往往需要多维度的模式识别、抽象知识生成，以及迭代式的推理能力优化——即便对人类而言，也需投入大量时间与精力方可完成。
9/15/2025 9:43:33 AM
晶颜
AI生成苹果Metal内核，PyTorch推理速度提升87%

AI生成苹果Metal内核，PyTorch推理速度提升87%
AI自动生成的苹果芯片Metal内核，比官方的还要好？ Gimlet Labs的最新研究显示，在苹果设备上，AI不仅能自动生成Metal内核，还较基线内核实现了87%的PyTorch推理速度提升。 更惊人的是，AI生成的Metal内核还在测试的215个PyTorch模块上实现了平均1.87倍的加速，其中一些工作负载甚至比基准快了数百倍。
9/5/2025 9:00:00 AM
AI署名论文一作，人类只能陪跑！斯坦福华人首创「AI科学家大会」

AI署名论文一作，人类只能陪跑！斯坦福华人首创「AI科学家大会」
去年，斯坦福学者James Zou搭建了一个「虚拟实验室」。 五个AI科学家，分工协作，最终提出了纳米抗体方案。 实验验证有效，还登上了《Nature》。
9/1/2025 2:00:00 AM
新智元
推理成本骤降75%！gpt-oss用新数据类型实现4倍推理速度，80GB显卡能跑1200亿参数大模型

推理成本骤降75%！gpt-oss用新数据类型实现4倍推理速度，80GB显卡能跑1200亿参数大模型
OpenAI在最新的开源模型gpt-oss上采用的MXFP4数据类型，直接让推理成本暴降75%！ 更惊人的是，MXFP4在把内存占用降为同规模BF16模型的四分之一的同时，还把生成token的速度提升了整整4倍。 换句话说，这一操作直接把1200亿参数的大模型塞进80GB显存的显卡，哪怕是只有16GB显存的显卡也能跑200亿参数的版本。
8/11/2025 6:00:38 PM
史上最大高质量科学推理后训练数据集开源，快速让Qwen3等变“科学家”

史上最大高质量科学推理后训练数据集开源，快速让Qwen3等变“科学家”
有史规模最大的开源科学推理后训练数据集来了！ 上海创智学院、上海交通大学（GAIR Lab）发布MegaScience。 该数据集包含约125万条问答对及其参考答案，广泛覆盖生物学、化学、计算机科学、经济学、数学、医学、物理学等多个学科领域，旨在为通用人工智能系统的科学推理能力训练与评估提供坚实的数据。
8/11/2025 8:46:00 AM
监督学习未死，一题训练五小时起飞！华人学者新方法20倍训练效率释放大模型推理能力

监督学习未死，一题训练五小时起飞！华人学者新方法20倍训练效率释放大模型推理能力
大模型推理能力研究中，可验证奖励的强化学习（RL with Verifiable Rewards, 简称 RLVR）技术频频突破，尤其是“一题强化学习”（RL on One Example）在多个任务中表现亮眼，引发了广泛讨论。 但与此同时，一个现实难题也随之而来：哪怕只使用一个样本，RL的训练也往往需要上百小时的A100GPU支撑，资源成本极高；而训练过程的高度不稳定，也给复现和实际部署带来了极大障碍；相比之下，传统的监督式微调（SFT）虽然计算负担小，但在低数据量下极易过拟合，效果难以保证。 有没有一种方法，不依赖复杂的反馈信号，也不需要成千上万的数据样本，就能有效激发LLM中已蕴藏的推理能力？
8/5/2025 9:05:00 AM
WAIC 2025｜阶跃发布新一代基模 Step 3：原生多模态，推理效率行业领先

WAIC 2025｜阶跃发布新一代基模 Step 3：原生多模态，推理效率行业领先
在2025世界人工智能大会（简称“WAIC 2025”）开幕前夕，阶跃星辰今天在上海正式发布了新一代基础大模型——Step 3。 作为阶跃的主力基座模型，Step 3兼顾智能与效率，旨在面向推理时代打造最适合应用的模型。 Step 3将于7月31日面向全球企业和开发者开源，为开源世界贡献最强多模态推理模型。
7/25/2025 9:43:00 PM
陈彩娴
面对无解问题大模型竟会崩溃？港中文&华为联合提出首个大模型推理可靠性评估基准

面对无解问题大模型竟会崩溃？港中文&华为联合提出首个大模型推理可靠性评估基准
本文作者是香港中文大学博士三年级薛博阳，导师为黄锦辉教授，目前在伦敦大学学院进行访问交流，他的研究方向包括可信大模型，模型不确定性，对话系统等，在 ACL, EMNLP, TASLP 等会议期刊作为第一作者发表多篇论文，并长期在知乎写作大模型、机器学习等专栏文章，个人主页为：？ 今年初以 DeepSeek-r1 为代表的大模型在推理任务上展现强大的性能，引起广泛的热度。 然而在面对一些无法回答或本身无解的问题时，这些模型竟试图去虚构不存在的信息去推理解答，生成了大量的事实错误、无意义思考过程和虚构答案，也被称为模型「幻觉」 问题，如下图（a）所示，造成严重资源浪费且会误导用户，严重损害了模型的可靠性（Reliability）。
7/17/2025 9:21:11 AM
清华ICCV25丨密室逃脱成AI新考场，通关率不足50%，暴露空间推理短板

清华ICCV25丨密室逃脱成AI新考场，通关率不足50%，暴露空间推理短板
近年来，多模态大模型（MLLMs）发展迅猛，从看图说话到视频理解，似乎无所不能。 但你是否想过：它们真的“看懂”并“想通”了吗？ 模型在面对复杂的、多步骤的视觉推理任务时，能否像人类一样推理和决策？
7/14/2025 8:40:00 AM
大模型越反思越错，原来是长链推理通过自我说服加重幻觉 | 北邮

大模型越反思越错，原来是长链推理通过自我说服加重幻觉 | 北邮
来自北京邮电大学的研究团队通过思维链审计实验，首次定量揭示了这一“越想越错”现象背后的元认知偏差：长链推理中的反思不是纠错机制，而是给幻觉颁发“理性证书”——模型为保持与用户提示语义一致，宁可篡改协议定义也不否定前提。 风险缺口：长链CoT放大“误差滚雪球”推理大模型（RLLMs）能把复杂问题拆解成几十步推理，再给出看似缜密的结论。 然而，随着推理链条变长，一个令人不安的趋势浮出水面——错误不再是偶发失误，而是沿链条滚雪球式放大。
7/4/2025 8:42:00 AM
MoE那么大，几段代码就能稳稳推理 | 开源

MoE那么大，几段代码就能稳稳推理 | 开源
混合专家网络模型架构（MoE）已经成为当前大模型的一个主流架构选择，以最近开源的盘古Pro MoE为例，其基于MoGE架构构建的混合专家架构，总参数量达720亿，激活参数量为160亿，专门针对昇腾硬件优化，在性能与效率上表现突出。 盘古还实现了在推理时做到又快又稳。 在技术特性上，盘古模型引入 “快思考” 和 “慢思考” 双系统，可根据问题复杂度自动切换响应模式，并在推理性能上实现突破——在昇腾800I A2上单卡推理吞吐性能达1148 tokens/s，经投机加速技术可提升至1528 tokens/s，显著优于同等规模稠密模型。
7/2/2025 5:56:09 PM
十三
只用2700万参数，这个推理模型超越了DeepSeek和Claude

只用2700万参数，这个推理模型超越了DeepSeek和Claude
大模型的架构，到了需要变革的时候？ 在对复杂任务的推理工作上，当前的大语言模型（LLM）主要采用思维链（CoT）技术，但这些技术存在任务分解复杂、数据需求大以及高延迟等问题。 近日，受到人脑分层和多时间尺度处理机制启发，来自 Sapient Intelligence 的研究者提出了分层推理模型（HRM），这是一种全新循环架构，能够在保持训练稳定性和效率的同时，实现高计算深度。
7/1/2025 9:08:00 AM
苹果一口咬死AI不会思考！OpenAI前高管直接开怼：AGI已来，别再酸了

苹果一口咬死AI不会思考！OpenAI前高管直接开怼：AGI已来，别再酸了
最近，苹果发布了一篇论文，引发了关于AI是否真正在推理的激烈讨论。 它提出了一个尖锐问题：当前的推理模型，是否已经触及能力的天花板？ 与此同时，OpenAI前研究主管Bob McGrew则持完全不同的态度。
6/30/2025 9:05:00 AM
推理越多，幻觉越重？多模态推理模型的「幻觉悖论」

推理越多，幻觉越重？多模态推理模型的「幻觉悖论」
在多模态大模型的飞速发展中，R1 系列多模态推理模型凭借显式的长链推理机制，在复杂任务中屡屡突破传统「快思考」范式的性能瓶颈。 然而，研究发现，随着推理链条的加长，这类模型的视觉感知能力却呈现出明显下滑的趋势，逐渐转而依赖语言先验进行「脑补」，生成内容也越来越容易脱离图像本身，甚至出现凭空捏造的幻觉现象。 这一「推理增强—感知削弱」的悖论，凸显了当前多模态推理模型在推理能力与感知准确性之间面临的平衡挑战。
6/27/2025 8:40:00 AM
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp

8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
作者熊璟，香港大学一年级博士生，师从黄毅教授和孔令鹏教授。 已在 ICLR、ICML、NeurIPS、ACL、EMNLP、TMLR等顶级会议/期刊发表论文，研究方向为高效大语言模型推理与自动定理证明。 担任NAACL、EMNLP、ACL、ICML、ICLR、NeurIPS、COLING等会议审稿人。
6/26/2025 9:09:31 AM