SpecExit

腾讯发布SpecExit算法，无损压缩端到端加速2.5倍！解决大模型长思考效率难题

以 DeepSeek-R1 等为代表的推理模型（Large Reasoning Models, LRMs），通过生成更长的思维链，在各类复杂任务中取得了更优的表现。但长思维链是推理模型的 “双刃剑”，虽能提升性能，但 “过度思考” 带来的语义冗余会大幅推高推理成本。为破解大模型长思维链的效率难题，并且为了更好的端到端加速落地，我们将思考早停与投机采样无缝融合，提出了 SpecExit 方法，利用轻量级草稿模型预测 “退出信号”，在避免额外探测开销的同时将思维链长度缩短 66%，vLLM 上推理端到端加速 2.5 倍。

10/24/2025 11:56:00 AM

机器之心

资讯热榜

早鸟票倒计时3天｜第四届全国大模型智能生成大会（LMG 2025）美国女子使用ChatGPT生成号码购彩中奖10万美元：概率事件而非AI预测能力全新开源的DeepSeek-OCR，可能是最近最惊喜的模型！ OpenAI 紧急暂停 Sora生成马丁・路德・金形象，AI 视频生成引发热议！ AI 模型“炒股”比拼!DeepSeek 收益超14%，Gemini2.5Pro 惨亏四成 LLM的“记忆”与“推理”该分家了吗？一种全新的训练范式，彻底厘清思考流程 AI智能体的未来要等十年？Karpathy直言目前的技术还很 “菜”！ GPT-5≈o3.1！OpenAI首次详解思考机制：RL+预训练才是AGI正道

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek 谷歌 AI绘画机器人数据大模型 Midjourney 开源 Meta 智能微软用户 AI新词 GPT 学习技术智能体马斯克 Gemini 图像 Anthropic 英伟达 AI创作训练 LLM 论文代码算法芯片腾讯 AI for Science Stable Diffusion 苹果 Agent Claude 蛋白质开发者生成式神经网络 xAI 机器学习 3D 人形机器人研究 AI视频生成大语言模型百度 RAG Sora 具身智能工具 GPU 华为计算字节跳动 AI设计搜索大型语言模型 AGI 视频生成场景深度学习 DeepMind 架构视觉预测 Transformer 编程生成式AI 伟达 AI模型特斯拉 Copilot