理论

https://mp.weixin.qq.com/s/-lOj5naC2Yb3BD32YuUyOw

机构: 北京大学人工智能研究院北京通用人工智能研究院作者: 毛彦升徐宇飞李佳琪孟繁续杨昊桐郑子隆王希元张牧涵长文本任务是当下大模型研究的重点之一。在实际场景和应用中，普遍存在大量长序列（文本、语音、视频等），有些甚至长达百万级 tokens。扩充模型的长文本能力不仅意味着可以在上下文窗口中装入更长的文本，更是能够更好地建模文本段落间信息的长程依赖关系，增强对长文的阅读理解和推理。

3/17/2025 12:55:18 PM

机器之心

RAG（四）Adaptive Retrieval --语言模型的信任边界，参数与非参数记忆的有效性研究

大语言模型（LMs）在许多自然语言处理任务上表现优异，但它们在记忆和回忆不太常见或不流行的事实知识方面存在明显的局限性。并且，当涉及到长尾实体（即那些在网络上讨论较少、出现频率较低的实体）的问题时，LMs 的性能显著下降，并且增加模型规模并不能有效地解决这一问题。此外，LMs 对于自身知识边界的认识有限，有时会产生幻觉，即生成看似合理但实际上错误的信息。

3/17/2025 12:52:44 PM

Glodma

真正的AI智能体时代即将到来，我们发现了几点「苦涩的教训」

最近一段时间，智能体（Agent）再次成为 AI 领域热议的焦点。 2025 年 1 月，OpenAI 发布了名为 DeepResearch 的 o3 模型变种，专门用于网页和文档搜索。得益于在浏览任务上的强化学习训练，DeepResearch 具备了制定搜索策略、交叉引用信息来源、甚至利用中间反馈来处理深层次知识的能力。

3/17/2025 12:52:00 PM

机器之心

迁移DeepSeek-R1同款算法，小米让7B模型登顶音频理解推断MMAU榜单

7B小模型 3.8万条训练数据，就能让音频理解和推断评测基准MMAU榜单王座易主？受到DeepSeek-R1中强化学习算法的启发，小米大模型团队对阿里的Qwen2-Audio-7B模型进行了微调。结果模型在MMAU上的准确率从49.2%提升到了64.5%（涨幅31%），比以前霸榜的GPT-4o还高出近10个百分点。

3/17/2025 12:13:26 PM

量子位

有望重新定义语言生成技术的扩散模型——LLaDA

译者 | 朱先忠审校 | 重楼简介如果我们能让语言模型更像人类一样思考，结果会怎样？如果它们不是一次写一个字，而是先勾勒出自己的想法，然后逐渐完善，结果又会怎样？这正是大型语言扩散模型（LLaDA）所引入的：一种与大型语言模型（LLM）中当前使用的文本生成不同的方法。

3/17/2025 11:35:36 AM

朱先忠

CVPR'25跨模态因果对齐，让机器更懂视觉证据

跨模态因果对齐，让机器更懂视觉证据！来自中山大学、新加坡南洋理工大学等团队提出跨模态因果对齐框架（CRA），通过因果干预和跨模态对齐，显著提升时空定位的准确性与可解释性。相关论文已被CVPR 2025接收，代码已开源。

3/17/2025 10:25:28 AM

一次排查 Cursor Bug 的经历

相信很多同学日常编码已经用上了Cursor。最近，我在用Cursor过程中遇到了「注册的MCP服务不调用」的问题。经过一顿排查，最终确定是Cursro自身bug导致。

3/17/2025 10:01:07 AM

卡颂

AI要取代程序员？吴恩达：别信！现在学编程比以往任何时候都香

AI的爆发式发展，让很多学习编程的人或者在职的软件工程师都很迷茫焦虑，更有甚者，像Anthropic CEO Dario Amodei 前两天说：“未来 3 到 6 个月内，90% 的代码将由人工智能编写；12 个月内，几乎所有代码都可能由人工智能生成”，那么究竟将来还需不要学习编程，吴恩达老师给出了他的看法：学习编程依然非常重要以下是原文中文翻译，分享给大家吴恩达@AndrewYNg如今有些人正在劝退他人学习编程，理由是人工智能将使编程自动化。这种建议将来会被视为史上最糟糕的职业建议之一。我不同意那位图灵奖和诺贝尔奖得主所写的“编程这个职业很可能走向消亡 [...] 而不是变得无所不能。

3/17/2025 9:43:42 AM

AI寒武纪

无需训练，100%完美检索！LLM练出「火眼金睛」，InfiniRetri超长文本一针见血

全新检索模式：在无限长token下，大语言模型自身或能检索信息！受大语言模型（LLM）上下文窗口大小的限制，处理输入token数超过上限的各种任务颇具挑战性，无论是简单的直接检索任务，还是复杂的多跳推理任务。尽管新提出的各种方法用来增强大语言模型的长上下文处理能力，但这些方法痛点突出：要么会产生高昂的训练后成本，要么需要额外的工具模块（如检索增强生成RAG），要么在实际任务中显示出改进，并不明显。

3/17/2025 9:40:00 AM

新智元

AI 快速发展会取代程序员吗？

最近收到很多同学的私信，讨论一个大家都很关心的问题：AI 的快速发展，会直接干掉程序员吗？首先，先给大家说结论，那就是不会。不但不会，反而我认为：AI 的快速发展不仅不会取代程序员，反而会给程序员带来巨大的机会，这是程序员实现阶级跃迁的最好时机！

3/17/2025 9:37:46 AM

佚名

想纠正LMM犯错？没用！NUS华人团队：最强o1反馈修正率不到50%

大规模多模态模型（Large Multimodal Models，LMM）在人类反馈下的表现如何？这一问题对于利用LMM开发通用AI助手至关重要，现有的基准测试并未针对LMM与人类的交互智能进行测试。来自新加坡国立大学的华人团队提出了InterFeedback，一个可应用任何LMM和数据集的交互式框架。

3/17/2025 9:35:00 AM

新智元