AI在线 AI在线

推理

LLM「想太多」有救了！高效推理让大模型思考过程更精简

LLM「想太多」有救了！高效推理让大模型思考过程更精简
LLM的推理能力显著增强，然而，这个「超级大脑」也有自己的烦恼。 有时候回答会绕好大一个圈子，推理过程冗长又复杂，虽能得出正确答案，但耗费了不少时间和计算资源。 比如问它「2加3等于多少」，它可能会从数字的概念、加法原理开始，洋洋洒洒说上一大通，这在实际应用中可太影响效率啦。
4/7/2025 9:23:00 AM
新智元
250多篇论文，上海AI Lab综述推理大模型高效思考

250多篇论文，上海AI Lab综述推理大模型高效思考
最近，像 OpenAI o1/o3、DeepSeek-R1 这样的大型推理模型（Large Reasoning Models，LRMs）通过加长「思考链」（Chain-of-Thought，CoT）在推理任务上表现惊艳。 但随之而来的是一个日益严重的问题：它们太能「说」了！ 生成的推理过程往往充斥着冗余信息（比如反复定义）、对简单问题过度分析，以及对难题的探索浅尝辄止。
4/4/2025 1:47:00 PM
机器之心
OpenAI重新开源！第一弹就推理模型，还不限制商用，“冲着DeepSeek来的”

OpenAI重新开源！第一弹就推理模型，还不限制商用，“冲着DeepSeek来的”
一夜之间，OpenAI更新三大动向，开源、融资、用户暴增。 第一，将开源一个具备推理能力的大语言模型，包含参数权重那种。 上一次这样开源还是6年前推出GPT-2。
4/1/2025 8:45:15 AM
DeepSeek 悄然发布 DeepSeek-V3–0324：远超预期的重大升级

DeepSeek 悄然发布 DeepSeek-V3–0324：远超预期的重大升级
DeepSeek 近期悄然发布的 DeepSeek-V3–0324，在 AI 社区和行业内引发了广泛关注。 这一版本是 DeepSeek V3 （DeepSeek-V3 深度剖析：下一代 AI 模型的全面解读）模型的重要升级，其带来的一系列技术革新和性能提升远超众人预期，为开发者和企业带来了新的机遇与可能。 一、DeepSeek-V3–0324 的技术突破（一）Multi-head Latent Attention（MLA）和增强的 DeepSeekMoE 架构DeepSeek-V3–0324 引入了 Multi-head Latent Attention（MLA）和增强版的 DeepSeekMoE 架构，这些创新技术为模型性能的提升奠定了坚实基础。
3/28/2025 4:30:00 AM
大模型之路
谷歌最强模型 Gemini 2.5 Pro 发布即屠榜，创下史上最大分数飞跃纪录

谷歌最强模型 Gemini 2.5 Pro 发布即屠榜，创下史上最大分数飞跃纪录
谷歌称，它是世界上最强大的模型，具备统一的推理能力，以及用户所喜爱的 Gemini 的所有功能（长上下文、工具等）。
3/26/2025 6:35:22 AM
问舟
成效初显！基于DeepSeek强化学习的医疗VLM策略来了

成效初显！基于DeepSeek强化学习的医疗VLM策略来了
编辑 | ScienceAI在人工智能跨界医疗的浪潮中，如何赋能视觉语言模型（VLM）去 “看懂” 多种类型的医学影像，并在疾病诊断、病灶分析等任务中给出可信解释，已成关键挑战。 近期，来自埃默里大学、南加州大学等机构的联合研究团队基于 DeepSeek 强化学习提出了一套医疗 VLM 策略，称之为 “Med-R1”，通过鼓励模型在 “推理过程” 上不断探索，大大提升了跨模态、跨任务的泛化能力。 本文将结合实验结果和推理案例，为大家展示 DeepSeek 在医疗 VLM 中的实战成效。
3/21/2025 2:05:00 PM
ScienceAI
Groundlight 开源框架，搞定复杂的视觉推理

Groundlight 开源框架，搞定复杂的视觉推理
一直专注于让AI看懂世界的 Groundlight 研究团队，近日放大招，宣布开源了一套全新的 AI 框架!这套框架旨在攻克视觉领域的一大难题——复杂的视觉推理，让AI不仅能“看图识物”，更能像福尔摩斯一样，从图像中推理出更深层次的信息。  我们都知道，现在的AI在识别猫猫狗狗方面已经炉火纯青，但要让它们理解图片背后的逻辑关系，进行更复杂的推理，就常常“卡壳”。 Groundlight 的研究人员指出，当前的视觉语言模型 （VLM） 在理解图像本身尚且不足的情况下，更难以完成需要深度解读的任务。
3/17/2025 3:00:00 PM
AI在线
从自我进化视角出发，全面解析LLM的推理能力技术演进路径

从自我进化视角出发，全面解析LLM的推理能力技术演进路径
论文标题：A Survey on LLM Complex Reasoning through the Lens of Self-Evolution论文链接：：. 引言在人工智能领域，大型语言模型的复杂推理研究正成为学术界和工业界关注的焦点。 随着 OpenAI 的 O1 以及后续 DeepSeek R1 等突破性成果的发布，这一领域的研究热度持续升温，引发了广泛的学术讨论和实践探索。
3/6/2025 9:08:00 PM
机器之心
​IBM 推出小型AI模型 Granite 3.2 ，强调高效推理与实用性

​IBM 推出小型AI模型 Granite 3.2 ，强调高效推理与实用性
IBM 最近发布了其最新的 Granite3.2大型语言模型，旨在为企业和开源社区提供 “小巧、高效、实用” 的企业人工智能解决方案。 该模型不仅具备多模态和推理能力，还提升了灵活性和成本效益，使得用户更容易采用。 Granite3.2引入了视觉语言模型（VLM），用于处理文档，进行数据分类和提取。
3/6/2025 10:52:00 AM
AI在线
​阿里新开源推理大模型QwQ-32B，性能媲美DeepSeek-R1、显存需求更小

​阿里新开源推理大模型QwQ-32B，性能媲美DeepSeek-R1、显存需求更小
阿里巴巴旗下的Qwen团队近日推出了其最新的开源大型语言模型（LLM）家族成员——QwQ-32B。 这款拥有320亿参数的推理模型，旨在通过强化学习（RL）提升在复杂问题解决任务上的性能。 据介绍，QwQ-32B已在Hugging Face和ModelScope上以 Apache2.0许可证开源。
3/6/2025 9:17:00 AM
AI在线
为什么Qwen能自我改进推理，Llama却不行？斯坦福找到了原理

为什么Qwen能自我改进推理，Llama却不行？斯坦福找到了原理
虽然 Qwen「天生」就会检查自己的答案并修正错误。 但找到原理之后，我们也能让 Llama 学会自我改进。 给到额外的计算资源和「思考」时间，为什么有的模型能好好利用，把性能提升一大截，而有的模型就不行？
3/5/2025 2:54:00 PM
机器之心
AI 大战超级玛丽！Claude 3.7 封神：Gemini、GPT-4o 全军覆没，谁才是游戏界真王者？

AI 大战超级玛丽！Claude 3.7 封神：Gemini、GPT-4o 全军覆没，谁才是游戏界真王者？
谁是游戏界真王者?AI 竟向经典游戏《超级马力欧兄弟》发起挑战! 加州大学圣地亚哥分校 Hao 人工智能实验室传来惊人战报:在一场别开生面的 AI “马力欧” 大乱斗中，Anthropic 旗下的 Claude3.7模型 “一骑绝尘”，力压群雄，荣登 “最强 AI 马力欧” 宝座! 紧随其后的是同门师弟 Claude3.5，而谷歌 Gemini1.5Pro 和 OpenAI 的 GPT-4o 这两位 “AI 界大佬” 却意外 “翻车”，表现令人大跌眼镜!
3/4/2025 5:00:00 PM
AI在线
科大讯飞与华为联手推出全新升级星火一体机，全面提升 AI 应用能力

科大讯飞与华为联手推出全新升级星火一体机，全面提升 AI 应用能力
近日，科大讯飞与华为联合发布了全新升级的星火一体机，这款机器在算力、模型、训练和推理等方面进行了全方位的国化支持，致力于实现快速部署和开箱即用的应用体验。 此次发布的星火一体机包括4U 训推一体机和2U 推理一体机，标志着人工智能在多个领域应用的又一重要进展。 新款星火一体机的最大亮点是支持讯飞星火和 DeepSeek 双引擎的整合。
3/3/2025 9:58:00 AM
AI在线
DeepSeek揭秘:AI推理系统背后的545%惊人利润率

DeepSeek揭秘:AI推理系统背后的545%惊人利润率
DeepSeek在知乎开设官方账号，发布了《DeepSeek-V3/R1推理系统概览》技术文章，首次详细披露其模型推理系统的优化细节和成本利润率信息，标志着备受关注的"DeepSeek开源周"正式结束。 文章介绍了DeepSeek-V3/R1推理系统的两大优化目标:"更大的吞吐，更低的延迟"。 为实现这些目标，DeepSeek采用了大规模跨节点专家并行（EP）技术，尽管这增加了系统复杂性。
3/2/2025 10:26:00 AM
AI在线
字节跳动推出 AIBrix：全新开源推理系统专为大语言模型设计

字节跳动推出 AIBrix：全新开源推理系统专为大语言模型设计
字节跳动近日宣布开源其最新研发的 AIBrix 推理系统。 这一系统特别为 vLLM 推理引擎打造，目标是提供一个可扩展且高性价比的推理控制面，满足企业日益增长的 AI 需求。 AIBrix 的推出标志着一个新阶段的开始，项目团队希望通过这一开源项目为构建可扩展的推理基础设施奠定基础。
2/28/2025 11:08:00 AM
AI在线
通义万相开源视频生成模型Wan2.1：8.2G显存即可生成480P视频

通义万相开源视频生成模型Wan2.1：8.2G显存即可生成480P视频
近日，通义宣布开源其最新的通义万相大模型 Wan2.1。 Wan2.1是一款专注于高质量视频生成的 AI 模型，凭借其在处理复杂运动、还原真实物理规律、提升影视质感以及优化指令遵循方面的卓越表现，成为了创作者、开发者和企业用户拥抱 AI 时代的首选工具。 在权威评测集 Vbench 中，通义万相 Wan2.1以总分86.22% 的成绩登顶榜首，大幅领先国内外其他知名视频生成模型，如 Sora、Minimax、Luma、Gen3和 Pika 等。
2/26/2025 7:58:00 AM
AI在线
360联合北大震撼发布！5%参数量逼近Deepseek-R1满血性能

360联合北大震撼发布！5%参数量逼近Deepseek-R1满血性能
2025年2月24日，由360与北京大学联合研发的中等量级推理模型Tiny-R1-32B-Preview正式亮相，仅以5%参数，逼近DeepSeek-R1-671B的性能。 核心突破：小模型，大能量数学领域：以78.1分（AIME 2024评测）逼近原版R1模型（79.8分），远超DeepSeek-R1-Distill-Llama-70B（70.0分）；综合性能：在编程（LiveCodeBench 61.6分）、科学（GPQA-Diamond 65.0分）领域全面领先最佳开源70B模型DeepSeek-R1-Distill-Llama-70B；效率跃迁：仅需5%参数量，性能达原版R1的95%以上，推理成本大幅降低。 技术革新：领域专精 模型融合研究团队使用「分治-融合」策略：基于DeepSeek-R1生成海量领域数据，分别训练数学、编程、科学三大垂直模型；通过Arcee团队Mergekit工具智能融合，突破单一模型性能上限，实现多任务均衡优化。
2/25/2025 2:50:16 PM
新智元
大语言模型：表面的推理能力背后是出色的规划技巧

大语言模型：表面的推理能力背后是出色的规划技巧
译者 | 刘汪洋审校 | 重楼大语言模型(LLMs)在技术发展上取得了显著突破。 OpenAI 的 o3、Google 的 Gemini 2.0和 DeepSeek 的R1展现出了卓越的能力：它们能处理复杂问题、生成自然的对话内容，甚至精确编写代码。 业界常把这些先进的LLMs 称为"推理模型"，因为它们在分析和解决复杂问题时表现非凡。
2/25/2025 9:49:12 AM
刘汪洋