AI在线 AI在线

理论

多榜单登顶！华为 & 哈工深团队提出 AdaReTaKe，突破长视频理解极限

多榜单登顶！华为 & 哈工深团队提出 AdaReTaKe，突破长视频理解极限
第一作者为哈尔滨工业大学（深圳）博士生王霄和华为大模型研究员佀庆一，该工作完成于王霄在华为实习期间。 王霄的研究方向为多模态视频理解和生成，佀庆一的研究方向为多模态理解、LLM post-training和高效推理。 随着视频内容的重要性日益提升，如何处理理解长视频成为多模态大模型面临的关键挑战。
4/4/2025 1:39:00 PM
机器之心
Claude 3.5首战复现21%顶会论文，人类博士无法取代！OpenAI：AI全是草台班子

Claude 3.5首战复现21%顶会论文，人类博士无法取代！OpenAI：AI全是草台班子
AI智能体，能否复现顶会中重磅的AI研究？ 今天，OpenAI团队发布了全新框架PaperBench，便可评估AI智能体复现顶尖研究的基础能力。 论文地址：，AI智能体需从0开始复现20篇ICML 2024 Spotlight和Oral论文，包括理解论文核心文献、开发可运行代码库，以及执行实验并验证结果。
4/4/2025 12:00:00 AM
新智元
RAG实战|向量数据库LanceDB指南

RAG实战|向量数据库LanceDB指南
LanceDB介绍LanceDB是一个开源的用 Rust 实现的向量数据库（），它的主要特点是：提供单机服务，可以直接嵌入到应用程序中支持多种向量索引算法，包括Flat、HNSW、IVF等。 支持全文检索，包括BM25、TF-IDF等。 支持多种向量相似度算法，包括Cosine、L2等。
4/3/2025 4:02:14 PM
周末程序猿
仅需10万不到，DeepSeek R1 671B大模型本地部署实战指南

仅需10万不到，DeepSeek R1 671B大模型本地部署实战指南
最近帮一个朋友部署本地的671b版本的deepseek r1，需求是要完全本地部署，但是又不想花太高的成本，没有并发要求，我一想，用ktransformers框架来部署完全合适。 关于机器配置，在挑挑拣拣评比之后，设备选择如下，最终选择的是其中的服务器配置。 这套设备下来总成本不到10万，相比如动辄几百万的满血版deepseek R1或者花个五六十万买个deepseek 70b的一体机要值当的多，且不说70b并不是真正的deepseek r1，效果还不如32b的QWQ，就光说一体机的升级也是个麻烦事，买了机器基本就和模型绑定了，以后新模型出来后想升级就难了。
4/3/2025 3:57:48 PM
贝塔街的万事屋
机器学习|从0开发大模型之复现DeepSeek的aha moment

机器学习|从0开发大模型之复现DeepSeek的aha moment
前面一篇文章介绍了《从0开发大模型之DeepSeek的GRPO》，并且实现了一个简单版本的 GRPO 代码，不过从工程领域来看，并没有复现DeepSeek-R1，于是最近申请了48G的显存，结合一些开源的方案复现aha monent，并给出完整的代码和工具链。  1、什么是 aha monent DeepSeek-R1 论文中提到，模型让作者「见证了强化学习的力量和美感」，在DeepSeek-R1-Zero的中间版本，「顿悟时刻」来了：模型学会了以人类的语气进行反思。 aha monent 2、使用什么的基座模型和训练数据 由于显卡只有48G，可以用基座模型Qwen2.5，模型大小：0.5B，1.5B，3B训练数据有很多：（可以直接在huggingface上找到）    a.AI-MO/NuminaMath-TIR：包括72K行的数学问题，解决方案和答案，是从 NuminaMath-CoT 数据集提炼出来的   b.
4/3/2025 3:46:53 PM
周末程序猿
机器学习|从0开发大模型之DeepSeek的GRPO

机器学习|从0开发大模型之DeepSeek的GRPO
DeepSeek-R1的发布为国产大模型争光了（太强了），不过 GRPO 算法源自 DeepSeekMath 7B 模型，该模型在 MATH 基准测试中取得了优异成绩，论文发表于2024年2月份：，以下是该论文的摘要原文：复制翻译如下：复制对比数据1、什么是GRPOGRPO 是一种在线学习算法，核心思想是通过组内相对奖励来估计基线，从而避免使用额外的价值函数模型。 通过在训练期间使用受训模型自身生成的数据来迭代改进，GRPO 旨在最大化生成补全的优势，同时确保模型保持接近参考策略，下图是论文中的算法流程图：GRPOGRPO 是 PPO (Proximal Policy Optimization，近端策略优化，是一种强化学习算法，由OpenAI于2017年提出，旨在解决策略梯度方法中的训练不稳定问题) 的变体，主要区别是：GRPO 省略 value function modelGRPO 奖励计算，改成了一个 q 生成多个 r，然后 reward 打分GRPO算法流程：采样一组输出并计算每个输出的奖励对组内奖励进行归一化处理使用归一化后的奖励计算优势函数通过最大化目标函数更新策略模型迭代训练，逐步优化策略模型论文中的伪代码2、奖励设计huggingface 库提供 GRPOTrainer 可以直接使用 GRPO 训练，参数包括定义奖励模型和函数。 2.1 奖励模型复制这里的 reward_funcs 参数可以传入奖励模型。
4/3/2025 3:40:41 PM
周末程序猿
AI顾问成企业智能转型的战略军师与未来黄金职业

AI顾问成企业智能转型的战略军师与未来黄金职业
AI顾问协助公司识别、评估和盈利性地实施可能的AI应用场景。 他们不仅要考虑技术层面，还要考虑战略和企业层面要求——同时熟悉快节奏的AI领域中的最新趋势、创新和可能性。 但他们日常工作到底做什么呢?AI咨询：定义AI咨询涉及就AI解决方案提供建议、设计和实施。
4/3/2025 3:26:06 PM
René Kessler
仅输入prompt与序列，准确率超90%，UC伯克利等提出文本生成蛋白质多模态框架

仅输入prompt与序列，准确率超90%，UC伯克利等提出文本生成蛋白质多模态框架
编辑丨coisini机器学习在蛋白质发现领域展现出深远的潜力，相关工具已快速应用于科学流程的辅助与加速。 当前，AI 辅助的蛋白质设计主要利用蛋白质的序列和结构信息，而为了描述蛋白质的高级功能，人们以文本形式整理了海量知识，这种文本数据能否助力蛋白质设计任务尚未得到探索。 为了填补这一空白，来自加州大学伯克利分校（UC Berkeley）、加州理工学院（California Institute of Technology）等机构的研究者提出了一个利用文本描述进行蛋白质设计的多模态框架 ——ProteinDT。
4/3/2025 2:37:00 PM
ScienceAI
53%性能全面提升，Ayu新模型横扫传统工具，分泌蛋白预测效率再翻倍

53%性能全面提升，Ayu新模型横扫传统工具，分泌蛋白预测效率再翻倍
编辑丨&微生物是驱动元素循环的引擎，它们分泌蛋白质以寻求生活环境。 现阶段还缺乏有效的计算方法来研究分泌蛋白。 表征分泌组的另一种方法是将现代机器学习工具与蛋白质组对海洋环境的进化适应变化相结合。
4/3/2025 2:36:00 PM
ScienceAI
人类赢了！OpenAI深夜开源全新Agent评测基准!AI大战顶尖人类，上演机器学习届“神仙打架”；R1排第三，Claude夺冠

人类赢了！OpenAI深夜开源全新Agent评测基准!AI大战顶尖人类，上演机器学习届“神仙打架”；R1排第三，Claude夺冠
编辑 | 李美涵出品 | 51CTO技术栈（微信号：blog51cto）深夜，OpenAI再次发力Agent领域，开源了一个全新的AI Agent评测基准—— PaperBench。 这是一个用于评估 AI 智能体复现最前沿 AI 研究能力的基准测试。 智能体需从零开始复现 20 篇 ICML 2024 Spotlight 和 Oral 论文，包括理解论文贡献、构建代码库并成功执行实验。
4/3/2025 1:35:49 PM
李美涵
Dify+大模型：重构企业基因的“数智引擎”——解锁AI工业化落地新范式

Dify+大模型：重构企业基因的“数智引擎”——解锁AI工业化落地新范式
当AI开发进入“流水线时代”2025年，全球企业AI应用开发呈现“冰火两重天”：一边是OpenAI、DeepSeek等大模型参数突破百万亿级，另一边却是78%的企业困在“PPT智能”阶段——AI应用开发周期长、场景碎片化、数据孤岛难破。 Dify与大模型的结合，正在打破这一僵局。 它不仅是工具，更是企业AI能力工业化的流水线，让大模型从“技术狂欢”走向“价值落地”。
4/3/2025 1:07:50 PM
推推君
让AI替码农卷复杂任务，贾佳亚团队提出MoTCoder，准确率刷新SOTA

让AI替码农卷复杂任务，贾佳亚团队提出MoTCoder，准确率刷新SOTA
论文一作李靖瑶，香港中文大学博士生（DV Lab），师从贾佳亚教授。 主要研究方向是大语言模型，包括模型预训练、后训练、推理优化。 作者陈鹏光、夏彬等均为 DV Lab 成员。
4/3/2025 11:16:10 AM
机器之心
视觉SSL终于追上了CLIP！Yann LeCun、谢赛宁等新作，逆转VQA任务固有认知

视觉SSL终于追上了CLIP！Yann LeCun、谢赛宁等新作，逆转VQA任务固有认知
在视觉问题解答（VQA）等多模态环境中，当前视觉自监督学习（SSL）的表现还比不上语言图像预训练（CLIP）。 这种差距通常归因于语言监督引入的语义，尽管视觉 SSL 模型和 CLIP 模型通常在不同的数据上进行训练。 在最近的一项研究中，Yann LeCun、谢赛宁等研究者探讨了一个基本问题： 语言监督对于多模态建模的视觉表征预训练是否必要？
4/3/2025 11:11:50 AM
机器之心
为什么AI需要向量数据库？

为什么AI需要向量数据库？
大模型火遍全球，DeepSeek、OpenAI、谷歌、百度、抖音等科技巨头争相发布自家产品。 多数人会想当然认为，大模型越大越强大，参数量越多就越聪明。  现实呢？
4/3/2025 11:04:40 AM
10倍吞吐提升无损性能：多模态适用的KV cache量化策略来了，即插即用无需改原模型

10倍吞吐提升无损性能：多模态适用的KV cache量化策略来了，即插即用无需改原模型
在InternVL-2.5上实现10倍吞吐量提升，模型性能几乎无损失。 最新1-bit多模态大模型KV cache量化方案CalibQuant来了。 通过结合后缩放和校准方法，可显著降低显存与计算成本，无需改动原模型即可直接使用。
4/3/2025 10:29:06 AM
量子位
OpenAI官方基准测试：承认Claude遥遥领先（狗头）

OpenAI官方基准测试：承认Claude遥遥领先（狗头）
OpenAI承认Claude是最好的了（狗头）。 刚刚开源的新基准测试PaperBench，6款前沿大模型驱动智能体PK复现AI顶会论文，新版Claude-3.5-Sonnet显著超越o1/r1排名第一。 与去年10月OpenAI考验Agent机器学习代码工程能力MLE-Bnch相比，PaperBench更考验综合能力，不再是只执行单一任务。
4/3/2025 10:21:32 AM
量子位
视觉Token无缝对齐LLMs词表！V²Flow：基于LLMs实现高保真自回归图像生成

视觉Token无缝对齐LLMs词表！V²Flow：基于LLMs实现高保真自回归图像生成
视觉Token可以与LLMs词表无缝对齐了！ V²Flow，基于LLMs可以实现高保真自回归图像生成。 随着ChatGPT掀起自回归建模革命后，近年来研究者们开始探索自回归建模在视觉生成任务的应用，将视觉和文本数据统一在“next-token prediction”框架下。
4/3/2025 10:17:23 AM
动态场景，开放文本查询！清华哈佛联合建模4D语言场 | CVPR 2025

动态场景，开放文本查询！清华哈佛联合建模4D语言场 | CVPR 2025
构建支持开放词汇查询的语言场在机器人导航、3D场景编辑和交互式虚拟环境等众多应用领域展现出巨大的潜力。 尽管现有方法在静态语义场重建方面已取得显著成果，但如何建模4D语言场（4D language fields）以实现动态场景中时间敏感且开放式的语言查询，仍面临诸多挑战，动态世界的语义建模对于推动许多实际应用的落地至关重要。 近日，来自清华大学、哈佛大学等机构的研究团队提出了一种创新方法4D LangSplat，基于动态三维高斯泼溅技术，成功重建了动态语义场，能够高效且精准地完成动态场景下的开放文本查询任务。
4/3/2025 10:12:30 AM
新智元