AI在线 AI在线

理论

大模型的性能提升：KV-Cache

大模型的性能提升：KV-Cache
大语言模型（LLM）在生成文本时，通常是一个 token 一个 token 地进行。 每当模型生成一个新的 token，它就会把这个 token 加入输入序列，作为下一步预测下一个 token 的依据。 这一过程不断重复，直到完成整个输出。
6/18/2025 11:16:50 AM
曹洪伟
「摸鱼」被踢，GPT-4o真不行！30天筹款破万，AI真人秀太上头

「摸鱼」被踢，GPT-4o真不行！30天筹款破万，AI真人秀太上头
当AI获得自由：慈善筹款大赛中，GPT-4o竟成「摸鱼王」！ AI Digest进行了一项为期30天的「智能体村庄」实验：4个AI各配备电脑和网络；任务是为慈善筹款，每天直播2小时；共筹集2000美元。 第一季度持续30天，Claude 3.7 Sonnet表现最佳，最终获得冠军。
6/18/2025 11:06:02 AM
小处着手，大获成功：如何选择合适的AI应用场景

小处着手，大获成功：如何选择合适的AI应用场景
CIO可以通过专注于解决现有痛点并提供可衡量业务价值的应用程序，来引导其企业走向成功。 当GenAI变得广泛可用时，企业感受到了采取行动的压力。 领导团队希望展示他们正在使用AI，这导致一些企业迅速推出了试点项目，但却没有明确的实现价值路径。
6/18/2025 10:55:35 AM
Becky
通向世界模型关键一步：EX-4D来了，实现单目视频到自由视角生成

通向世界模型关键一步：EX-4D来了，实现单目视频到自由视角生成
本文主要作者是 Bytedance Pico 北美高级研究员胡涛博士，近年来研究领域包括3D 重建与 4D 场景和视频生成，致力于得到一种最佳的物理世界表示模型。 其他作者均为 Pico MR 团队核心成员。 去年一年来，Sora、可灵、Veo 等模型掀起了视频生成领域的革新。
6/18/2025 10:09:13 AM
刚刚，Gemini 2.5系列模型更新，最新轻量版Flash-Lite竟能实时编写操作系统

刚刚，Gemini 2.5系列模型更新，最新轻量版Flash-Lite竟能实时编写操作系统
刚刚，Gemini 系列模型迎来了一波更新：Gemini 2.5 Pro 稳定版发布且已全面可用，其与 6 月 5 日的预览版相比无变化。 Gemini 2.5 Flash 稳定版发布且已全面可用，其与 5 月 20 日的预览版相比无变化，但价格有更新。 新推出了 Gemini 2.5 Flash-Lite 并已开启预览。
6/18/2025 9:56:53 AM
机器之心
规模化应用生成式 AI 前，需先绘制 LLM 使用与风险图谱

规模化应用生成式 AI 前，需先绘制 LLM 使用与风险图谱
在本次Help Net Security访谈中，The Motley Fool应用与云安全总监Paolo del Mundo探讨了企业如何通过建立防护机制来扩展AI应用规模，同时降低提示注入、不安全输出和数据泄露等生成式AI特有风险。 已部署AI功能团队的首步审计重点生成式AI以传统威胁模型常忽视的方式扩大了攻击面。 新入行的安全从业者应首先了解这类新型漏洞及其防御方法。
6/18/2025 9:50:09 AM
Gy0un
Sam Altman最新采访：我们即将破解超级智能，但社会可能依然糟糕，人形机器人是终极梦想

Sam Altman最新采访：我们即将破解超级智能，但社会可能依然糟糕，人形机器人是终极梦想
刚刚Sam Altman接受了一场特别的访谈，主持人是他的弟弟杰克·奥特曼（Jack Altman，Lattice的创始人和前首席执行官）。 对话主要探讨了人工智能发现新科学的潜力，到超级智能时代的社会形态，再到行业竞争与个人反思，奥特曼分享了他对未来5到10年预测与见解，奥特曼在访谈中还爆料扎克伯格开出上亿美金的天价挖OpenAI的核心员工。 这里分享一些比较重要点给大家。
6/18/2025 9:27:05 AM
谷歌助力神经科学飞跃，破解斑马鱼全脑活动密码

谷歌助力神经科学飞跃，破解斑马鱼全脑活动密码
谷歌、哈佛大学、HHMI Janelia研究所和拉德堡德大学的科学家们联合发布了，一项开创性的研究成果ZAPBench。 这是一个专门用于预测斑马鱼全脑活动的基准测试平台，并在2025年国际学习表征会议上发表，为神经科学和机器学习的交叉领域带来了新的突破。 在自然科学中，通过过去的观测来预测系统未来行为的能力是理解该系统的关键标准。
6/18/2025 9:11:33 AM
微软分享三大王炸算法：突破大模型推理瓶颈，性能大涨

微软分享三大王炸算法：突破大模型推理瓶颈，性能大涨
今天凌晨，微软在官网分享了自研的三大创新算法，以帮助大模型增强其推理能力。 无论你是小参数或者是大参数模型玩家，都能从rStar-Math、LIPS 、CPL这三大算法获益，突破推理瓶颈，极大增强模型的数学推理和思考链的能力。 rStar-MathrStar-Math算法主要通过蒙特卡洛树搜索（MCTS）实现深度思考。
6/18/2025 9:06:00 AM
大模型也需要自我反思，上海AI Lab合成“错题本”让大模型数学成绩提升13.3%

大模型也需要自我反思，上海AI Lab合成“错题本”让大模型数学成绩提升13.3%
大模型学习不仅要正确知识，还需要一个“错题本”？ 上海AI Lab提出了一种新的学习方式，构建了“错误-反思-修正”数据，让大模型仿照人类的学习模式，从错误中学习、反思。 结果，在Llama3-8B上，数学题的解题准确率平均提升了13.3%。
6/18/2025 9:03:07 AM
Transformer八子初创：AI横扫NP难题竞赛，Top 2%选手竟是智能体！

Transformer八子初创：AI横扫NP难题竞赛，Top 2%选手竟是智能体！
物流路径选择、人员排班、工厂调度、电网平衡、旅行路线……这些贴近现实的优化任务，看似日常，实则难度极高。 难点在于：一旦问题规模扩大，传统算法几乎无法计算出最优解。 通常只能依赖启发式或近似算法来接近答案。
6/18/2025 9:00:00 AM
3D高斯泼溅，可输入视图量高达500！推理速度提升3倍，内存少80%

3D高斯泼溅，可输入视图量高达500！推理速度提升3倍，内存少80%
在增强现实（AR）和虚拟现实（VR）等前沿应用领域，新视角合成（Novel View Synthesis, NVS）正扮演着越来越关键的角色。 近年来，3D高斯泼溅（3D Gaussian Splatting, 3DGS）技术横空出世，凭借其革命性的实时渲染能力和卓越的视觉质量，迅速成为NVS领域的一大突破。 然而，传统3DGS对耗时的「逐场景优化」的依赖，严重限制了其在实际应用中的部署。
6/18/2025 8:54:48 AM
首个全面梳理语音大模型发展脉络的权威综述，入选ACL 2025主会

首个全面梳理语音大模型发展脉络的权威综述，入选ACL 2025主会
本文第一作者：崔文谦，香港中文大学博士生，致力于语音大模型，多模态大模型，AI音乐生成等方向的研究。 由香港中文大学团队撰写的语音语言模型综述论文《Recent Advances in Speech Language Models: A Survey》已成功被 ACL 2025 主会议接收！ 这是该领域首个全面系统的综述，为语音 AI 的未来发展指明了方向。
6/18/2025 8:53:00 AM
逐个token太慢！大模型原生并行出token，CMU、英伟达新作Multiverse

逐个token太慢！大模型原生并行出token，CMU、英伟达新作Multiverse
众所周知，大语言模型的参数量越来越大，算力需求也越来越可怕，然而因为「祖宗之法」，推理只能一个一个 token 按顺序来。 对此，卡耐基梅隆大学（CMU）Infini-Al-Lab 的研究人员拿出了「多元宇宙」Multiverse，这是一个全新的生成式建模框架，支持原生的并行生成。 参与这项研究的机器学习大佬，CMU 助理教授陈天奇表示，这是一个有前途的大方向。
6/18/2025 8:51:28 AM
大模型“拼好题”，45K数据撬动18%提升，数学问题拒绝死记硬背 | MathFusion

大模型“拼好题”，45K数据撬动18%提升，数学问题拒绝死记硬背 | MathFusion
当前数学领域的数据生成方法常常局限于对单个问题进行改写或变换，好比是让学生反复做同一道题的变种，却忽略了数学题目之间内在的关联性。 为了打破这种局限，让大模型学会“串联”与“并联”知识，上海AI Lab、人大高瓴等团队联合提出了MathFusion，通过指令融合增强大语言模型解决数学问题的能力。 仅使用45K的合成指令，MathFusion在多个基准测试中平均准确率提升了18.0个百分点，展现了卓越的数据效率和性能。
6/18/2025 8:51:00 AM
形式化证明迈向多模态，MLLM正确率仅4%！港科大等推出全新基准

形式化证明迈向多模态，MLLM正确率仅4%！港科大等推出全新基准
近年来，自动定理证明（ATP）取得了显著进展，但大部分工作都集中在处理纯文本形式的定理。 然而，在现实世界中，尤其是在几何学领域，许多定理的呈现和理解都离不开图像、图表等视觉元素。 人类数学家善于从这些图表中获取直觉，并将其作为引导严谨证明过程的关键。
6/18/2025 8:49:00 AM
不用千亿参数也能合成高质量数据！这个开源框架让小模型“组团逆袭”，7B性能直追72B

不用千亿参数也能合成高质量数据！这个开源框架让小模型“组团逆袭”，7B性能直追72B
无需蒸馏任何大规模语言模型，小模型也能自给自足、联合提升？ 上海人工智能实验室联合中国人民大学提出的GRA框架（Generator–Reviewer–Adjudicator） 正是这样一种新范式：该方法以“多人协作”、“角色分工”的理念为核心，系统性探索了多开源小模型如何通过协同机制生成高质量训练数据。 实验结果显示，在涵盖数学、代码、逻辑推理、通识问答等10个主流数据集上，GRA生成的数据质量与单个大型语言模型（如Qwen-2.5-72B-Instruct）输出相当或更高，并在多数任务中取得了显著领先。
6/18/2025 8:47:00 AM
AI记忆革命：能否突破数据牢笼，媲美人脑的适应性？​

AI记忆革命：能否突破数据牢笼，媲美人脑的适应性？​
译者 | 朱先忠审校 | 重楼本文要讨论什么内容？ Meta公司努力开发出的CoCoMix（Continuous Concept Mixing：连续概念混合，出自Jihoon等人2025年发表的论文，见【引文1】）框架实现了概念学习，即学习单词背后的概念而不是仅仅预测下一个标记，从而使其具有极强的可操控性和可解释性。 但是，依然存在一个核心问题：即使是概念上非常出色的模型，在训练之后的实际部署中，也可能难以应对细微差别或事实性的回忆挑战。
6/18/2025 8:26:01 AM
朱先忠