推理
英伟达再破世界纪录，每秒1000 token！刚刚，全球最快Llama 4诞生
你以为，AI推理的速度已经够快了？ 不，英伟达还能再次颠覆你的想象——就在刚刚，他们用Blackwell创下了AI推理的新纪录。 仅仅采用单节点（8颗Blackwell GPU）的DGX B200服务器，英伟达就实现了Llama 4 Maverick模型每秒单用户生成1000个token（TPS/user）的惊人成绩！
5/23/2025 1:50:39 PM
小学数学题，大模型集体不及格！达摩院推出新基准VCBench
大模型做数学题的能力很强，可是它们真的能够理解基本的数学原理吗？ 拿小学生的数学题进行测试，人类平均得分为93.30%，而大模型的表现让人意外：闭源模型中Gemini2.0-Flash（49.77%）、Qwen-VL-Max（47.03%）、Claude-3.7-Sonnet（46.63%）的综合表现最佳，但仍未突破50%准确率。 因为大模型可能并不能真正理解基本数学元素和视觉概念。
5/23/2025 8:47:00 AM
华为FlashComm技术助力大模型推理提速80%
在全球人工智能发展的浪潮中，模型推理的速度和效率愈发成为焦点。 近期，华为的数学团队在 DeepSeek 开源周期间推出了名为 FlashComm 的新技术，旨在通过三项创新措施，大幅提升大模型推理的性能，最高可达80% 的速度提升。 首先，FlashComm 技术重点优化了 AllReduce 通信操作。
5/22/2025 4:00:55 PM
AI在线
红帽发布全新 AI 推理服务器，推动混合云环境下智能化发展
红帽公司近期正式推出了红帽 AI 推理服务器（Red Hat AI Inference Server），这款服务器旨在为混合云环境提供更加高效和经济的 AI 推理服务。 通过采用先进的 vLLM 技术，并结合 Neural Magic 的创新能力，红帽希望为用户带来更快的响应速度和更优越的性能。 红帽 AI 推理服务器是一款专为高性能设计的开放推理解决方案，配备了一系列先进的模型压缩与优化工具。
5/22/2025 4:00:55 PM
AI在线
多模态大模型MMaDA：让AI学会「跨次元思考」，文本图像通吃的全能型选手来了！
最近，普林斯顿大学、字节跳动、清华大学和北京大学联手搞了个大事情，推出了一款名为 MMaDA 的多模态大模型! 这可不是普通的 AI，它号称能让 AI 拥有“深度思考”的能力，还能在文本、图像、甚至复杂的推理任务之间“七十二变”，表现力直接超越了你熟悉的 GPT-4、Gemini、甚至 SDXL!你可能觉得，现在的多模态模型已经很厉害了，能看图说话，也能根据文字生成图片。 但 MMaDA 告诉我们:这还远远不够!
5/22/2025 3:00:55 PM
AI在线
英伟达推出新型模型 Cosmos-Reason1 ，让 AI 更好理解物理世界
近日，英伟达发布了其最新的 Cosmos-Reason1系列模型，旨在提升人工智能在物理常识和具身推理方面的能力。 随着人工智能在语言处理、数学及代码生成等领域取得显著进展，如何将这些能力扩展到物理环境中成为了一大挑战。 物理 AI（Physical AI）不同于传统的人工智能，它依赖于视频等感官输入，并结合现实物理法则来生成反应。
5/21/2025 4:00:55 PM
AI在线
ChatGPT转型计划曝光！不再只是回答问题，而是通过穿插使用工具变身行动助手
AI Agent今天是初级工程师，6个月后是高级工程师，一年后是架构师。 这是OpenAI CPO Kevin Weil在接受最新访谈时提出的构想。 他表示，ChatGPT将从回答问题转变为为用户做事。
5/21/2025 1:57:58 PM
谷歌Gemini 2.5 Pro Deep Think发布：并行推理重塑AI复杂问题解决
在2025年5月20日的Google I/O开发者大会上，谷歌DeepMind正式推出了Gemini2.5Pro Deep Think模式，这一实验性增强推理模式为AI处理复杂任务树立了新标杆。 Deep Think模式通过并行推理技术，使Gemini2.5Pro在数学、编码和多模态推理等领域的表现达到行业领先水平。 并行推理技术，显著提升复杂任务表现Deep Think模式采用前沿的并行推理技术，允许模型在生成响应前探索多个假设路径，从而提升答案的准确性和深度。
5/21/2025 10:01:51 AM
AI在线
CoT推理大溃败？哈佛华人揭秘：LLM一思考，立刻就「失智」
DeepSeek-R1火了，推理模型火了，思维链（Chain-of-Thought，CoT）火了！ 模型很聪明，问题是：它还听你的话吗？ 思维链很好，但代价呢？
5/21/2025 9:02:20 AM
蚂蚁武威：下一代「推理」模型范式大猜想
R1 之后，长思维链成为研究下一代基础模型中 “推理”（Reasoning）能力的热门方向。 一方面，R1 证明了大模型深度思考的可行性；与此同时，尽管 R1 展现出了强大的性能，大模型推理的序幕实则才刚刚拉开。 此外，R1 在海外掀桌也给国内人工智能的研究带来一个显著影响，即：越来越多的研究者敢于站在更高视角思考，提出前瞻引领的技术思想。
5/21/2025 12:10:00 AM
陈彩娴
谷歌 DeepMind 通过强化学习微调提升 AI 决策能力
近期，谷歌 DeepMind 团队与约翰・开普勒林茨大学 LIT AI 实验室合作，开展了一项关于人工智能语言模型的新研究。 他们采用了强化学习微调（RLFT）技术，旨在提升语言模型的决策能力。 这项研究的重点在于，通过思维链的强化训练，解决了模型在决策过程中存在的一些关键问题。
5/20/2025 6:00:45 PM
AI在线
ICML 2025 | 大模型深度思考新范式：交替「推理-擦除」解决所有可计算问题
作者介绍：本文第一作者是丰田工业大学芝加哥 PhD 学生杨晨晓，研究兴趣是机器学习理论和大模型推理，在 ICML，NeurIPS，ICLR 等顶级会议上发表过论文。 本文提出一个交替「推理 - 擦除」的深度思考新范式 PENCIL，比传统 CoT 更高效地解决更复杂的推理任务。 理论上，我们证明 PENCIL 可用最优空间与最优时间下解决所有可计算问题，而这对于传统的 CoT 是不可能的！
5/16/2025 8:44:01 AM
前苹果工程师公司ElastixAI筹集 1600 万美元，专注优化大语言模型的推理技术
最近，在美国西雅图成立了一家新创公司 ElastixAI，该公司由几位资深工程师创立，旨在解决大型语言模型部署过程中的成本和复杂性问题。 ElastixAI 专注于开发一种 AI 推理平台，旨在优化大型语言模型的运行方式。 该公司在刚成立几个月内，成功融资1600万美元，由位于贝尔维尤的风险投资公司 FUSE 领投。
5/15/2025 12:00:54 PM
AI在线
看图猜位置不输o3！字节发布Seed1.5-VL多模态推理模型，在60个主流基准测试中拿下38项第一
在60个主流基准测试中拿下38项第一！ 字节发布轻量级多模态推理模型Seed1.5-VL，仅用532M视觉编码器 200亿活跃参数就能与一众规模更大的顶尖模型掰手腕，还是能带图深度思考的那种。 相关技术报告也第一时间公开了。
5/15/2025 8:30:00 AM
仅20B参数！字节推出Seed1.5-VL多模态模型，实现38项SOTA
在上海举办的火山引擎 FORCE LINK AI 创新巡展上，字节跳动正式发布了最新的视觉 - 语言多模态模型 ——Seed1.5-VL。 该模型凭借其出色的通用多模态理解和推理能力，成为此次活动的焦点，吸引了众多业界专家和开发者的关注。 Seed1.5-VL 的显著特点是其增强的多模态理解与推理能力。
5/14/2025 3:00:52 PM
AI在线
字节跳动发布新一代多模态大模型，挑战谷歌 Gemini 2.5 Pro
在人工智能领域竞争日益激烈的今天，字节跳动的 Seed 团队于5月13日正式发布了其最新的多模态大模型 Seed1.5-VL，旨在为智能体技术的进步铺平道路。 该模型经过超过3万亿 tokens 的多模态数据预训练，不仅具备强大的通用多模态理解和推理能力，还显著降低了推理成本。 与谷歌近期推出的 Gemini2.5Pro 相比，Seed1.5-VL 在性能上表现不相上下。
5/14/2025 12:00:52 PM
AI在线
推理模型越来越强，大模型微调还有必要吗？
最近笔者在将大模型服务应用于实际业务系统时，首先一般习惯性用一些闭源api服务，花上几块钱快速测试下流程，然后在去分析下大模型效果。 如果通过几次调整Prompt或者超参数还是出现的bad cases比较多（比如输出结果的结构化有问题，输出结果不理想，在某些专业领域不同模型结果表现不一并且效果比较差），这个时候需要考虑下通过微调的方式来训练大模型。 现在的大模型推理能力越来越厉害，人们开始怀疑：我们还需要花时间和资源去微调大模型吗？
5/13/2025 5:11:00 AM
ChallengeHub
强迫模型自我争论，递归思考版CoT热度飙升！网友：这不就是大多数推理模型的套路吗？
CoT（Chain-of-thought）大家都很熟悉了，通过模仿「人类解题思路」，进而大幅提升语言模型的推理能力。 这几天，一个名为 CoRT（Chain-of-Recursive-Thoughts）的概念火了！ 从名称上来看，它在 CoT 中加入了「递归思考」这一步骤。
5/12/2025 2:24:07 PM
资讯热榜
标签云
AI
人工智能
OpenAI
AIGC
模型
ChatGPT
DeepSeek
AI绘画
谷歌
机器人
数据
大模型
Midjourney
开源
智能
用户
Meta
微软
GPT
学习
技术
图像
Gemini
马斯克
AI创作
智能体
英伟达
Anthropic
论文
代码
训练
AI新词
算法
Stable Diffusion
芯片
LLM
蛋白质
开发者
腾讯
Claude
苹果
生成式
Agent
AI for Science
神经网络
3D
机器学习
研究
xAI
生成
人形机器人
AI视频
计算
百度
Sora
GPU
AI设计
华为
工具
大语言模型
RAG
搜索
具身智能
字节跳动
大型语言模型
场景
深度学习
预测
视频生成
伟达
视觉
Transformer
AGI
架构
亚马逊
神器推荐
Copilot
DeepMind
特斯拉
应用