AI在线 AI在线

理论

分析一下EP并行和DeepSeek开源的DeepEP代码

分析一下EP并行和DeepSeek开源的DeepEP代码
被好几个团队的人追着要渣B来分析一下DeepEP的工作, 公司内外的团队都有...简单的一句话说, 非常棒的工作,很多细节都值得学习. 但是还有一些硬件上的缺陷, 在DeepSeek-V3的论文中提出的建议要结合在一起看就会更清楚了. 我们还是由浅入深来谈谈EP并行, 并进一步分析一下这份出色的工作.
2/27/2025 9:06:34 AM
渣B
GitHub 上流行的 RAG 框架介绍及优缺点分析

GitHub 上流行的 RAG 框架介绍及优缺点分析
随着大型语言模型在自然语言处理中的广泛应用，其固有的知识截止和“幻觉”问题逐渐暴露。 为了解决这些问题，检索增强生成（Retrieval-Augmented Generation，简称 RAG） 技术应运而生。 RAG 通过将外部知识库中的相关信息检索出来，并将这些信息融合到生成过程的上下文中，从而大幅提高了回答的准确性、时效性以及上下文一致性。
2/27/2025 9:00:00 AM
当DeepSeek遇见RFID，如何重塑零售业的未来

当DeepSeek遇见RFID，如何重塑零售业的未来
作者 | 涂承烨审校 | 重楼随着科技的不断进步，射频识别技术（RFID）已成为现代零售业不可或缺的一部分。 RFID通过无线信号传输数据，实现对物品的追踪和管理。 尽管传统的RFID系统已经在一定程度上提高了零售业的运营效率，但仍存在一些局限性。
2/27/2025 8:41:08 AM
涂承烨
你可能还不知道的四个 ChatGPT 新功能

你可能还不知道的四个 ChatGPT 新功能
过去几个月里，ChatGPT 的功能更新可以说让人目不暇接，这里总结了 4 个最近的重量级功能，绝对值得你马上尝试。 Deep ResearchDeep Research 让 ChatGPT 能像一个真正的“研究员”一样通过浏览器进行多层次的链式搜索。 它不会只抓取一个结果，而是能顺藤摸瓜，制订计划并调整搜索思路，真正深入挖掘信息。
2/27/2025 8:33:13 AM
dev
探索基于Qwen2.5实现DeepSeek推理的奇妙之旅

探索基于Qwen2.5实现DeepSeek推理的奇妙之旅
作为一名互联网技术爱好者，我一直对大型语言模型和高效推理技术充满热情。 本文基于基于Qwen2.5实现DeepSeek推理功能。 本文使用unsloth框架，这个轻量高效、易于上手的工具，加上SFT中文数据集的加持，测试了在医疗领域的推理应用。
2/27/2025 8:00:00 AM
AI 编码 2.0 分析、思考与探索实践：从 Cursor Composer 到 AutoDev Sketch

AI 编码 2.0 分析、思考与探索实践：从 Cursor Composer 到 AutoDev Sketch
在周末的公司【AI4SE 效能革命与实践：软件研发的未来已来】直播里，我分享了《AI编码工具 2.0 从 Cursor 到 AutoDev Composer》主题演讲，分享了 AI 编码工具 2.0 的核心、我们的思考、以及我们的 AI 编码工具 2.0 探索实践。 在这篇文章中，我将分享这次演讲的内容，希望能够给大家带来一些启发。 一、AI 编程工具 2.0 （趋势分析）我们分析了市面上最受欢迎的 AI 编程工具，如 Cursor、GitHub Copilot Edit、WindSurf、Cline 等，简单总结一下新一代 AI 编程工具的特点：图片AI 编程工具正在从代码补全、代码预测，到更加智能、更耗费 token 的 AI 自动化编码与验证，以及正在发展中的异步 AI 编码。
2/27/2025 1:00:00 AM
Phodal
Transformer革新药物研发：TRACER框架实现反应感知的分子设计与合成优化

Transformer革新药物研发：TRACER框架实现反应感知的分子设计与合成优化
编辑 | 2049药物研发周期长、成本高是制药行业面临的重大挑战。 据统计，一个新药从研发到上市平均需要 12 年时间，投入高达 26 亿美元。 为提升研发效率，深度学习在分子生成领域取得了显著进展。
2/26/2025 3:52:00 PM
ScienceAI
DeepSeek R2要提前发布！这是有关R2的几个传闻：100%国产算力部署！能耗降低25%，多模态模型！

DeepSeek R2要提前发布！这是有关R2的几个传闻：100%国产算力部署！能耗降低25%，多模态模型！
DeepSeek 今天有两个大新闻：一个是开源了自家用于助力V3/R1模型训练与推理的一个FP8通用矩阵乘法 (GEMM) 加速库，这一块相信不少业内人士会感兴趣，据悉性能高达1350 TFLOPS，进一步揭秘了为什么现在的DeepSeek可以吐字这么流畅，训练和计算成本为什么如此低廉。 不过更为让人震惊的，相信还是第二个：DeepSeek原定于要5月初发布的DeepSeek R2，现在正在争取提前甚至尽可能早的发布！ 这一提前发布R2的消息，是路透社当地时间周二发布的，路透社跟三位知情人士了解到：DeepSeek原本计划在5月初发布R2，但现在希望尽早发布，但没有提供具体细节。
2/26/2025 2:51:00 PM
研究：英国高校逾九成本科生借助 AI 完成作业

研究：英国高校逾九成本科生借助 AI 完成作业
2 月 26 日消息，据英国《卫报》今日报道，一项针对 1000 名学生的调查显示，在过去 12 . 个月里，生成式人工智能的使用呈现“爆炸性增长”。 在 2025 年的调查中，接近九成（88%）的学生表示，他们会在评估中使用像 ChatGPT .
2/26/2025 2:24:43 PM
清源
Toolformer揭秘：大语言模型如何自学成才，掌握工具使用！

Toolformer揭秘：大语言模型如何自学成才，掌握工具使用！
大语言模型（LLMs）在处理自然语言处理任务时展现出了令人印象深刻的零样本和少样本学习能力，但它们在一些基础功能上表现不佳，例如算术运算或事实查找。 这些局限性包括无法访问最新事件的信息、倾向于虚构事实、难以理解低资源语言、缺乏进行精确计算的数学技能，以及对时间进展的不敏感。 为了克服这些限制，一个简单的方法是让语言模型能够使用外部工具，如搜索引擎、计算器或日历。
2/26/2025 2:22:18 PM
Glodma
大模型「记忆断片」成历史！AI初创全新Zep系统，知识图谱破解上下文诅咒

大模型「记忆断片」成历史！AI初创全新Zep系统，知识图谱破解上下文诅咒
无论是ChatGPT还是Deepseek，随着大模型性能的提升，其能够处理的上下文也越来越长。 但是，一旦超出上下文窗口的限制，大模型就需要重新开一个对话，如同「失忆」一般忘记之前交流的内容。 然而，站在用户的角度，智能体应该能够记住之前的所有对话，因此如何有效地管理和利用对话历史，就成为了提升AI智能体用户体验的关键。
2/26/2025 2:15:00 PM
新智元
AI重塑硅谷创业法则：“融资-扩员-烧钱”成为过去式

AI重塑硅谷创业法则：“融资-扩员-烧钱”成为过去式
过去，硅谷创业公司的发展路径遵循着一套固定的模式：先融资，然后大规模招募员工，通过快速扩张实现增长。 然而，随着AI浪潮的汹涌来袭，这一传统模式正在被彻底颠覆。 AI工具的广泛应用大幅提升了员工生产力，即使是规模极小的团队，也有可能凭借技术优势实现巨大成功。
2/26/2025 2:05:22 PM
小刀
谷歌发布最强「科研辅助神器」！能帮你提新idea，三大真实场景实证

谷歌发布最强「科研辅助神器」！能帮你提新idea，三大真实场景实证
在科学探索的过程中，研究人员需要对以往发表的文献进行观察总结，提出一些新颖、可行的研究方向，最后通过全面的实验进行idea验证。 科研人员需要对探索的宽度和深度进行平衡，由于精力有限，不能探索过多的研究方向，同时还要保证对目标主题的研究深度。 最近，谷歌、斯坦福大学等机构的研究人员开发了一个多智能体、基于Gemini 2.0的AI协同科研（AI co-scientist）系统，具备跨复杂主题的综合能力和进行长期规划、推理的能力，除了传统的文献综述、总结功能之外，还可以辅助科研人员提出新的、原创知识，或是基于先前的成果制定研究假设(hypotheses)和计划(proposal)。
2/26/2025 1:50:00 PM
新智元
DeepSeek会说话了！只要2行代码，这家公司让任意大模型秒开口

DeepSeek会说话了！只要2行代码，这家公司让任意大模型秒开口
就在最近，生成式AI行业，诞生了一个新赛道——所有文本模型，可以立刻秒变多模态了！ 如今的大模型混战局势，情况已经很明显，去一味卷大模型供应商，投入产出比已经不高。 此时，这个产品的另辟蹊径，就格外显得独树一帜——他们要做的，是让任意大模型开口说话，甚至是DeepSeek！
2/26/2025 1:45:00 PM
新智元
CIO的生存之道：企业中AI早期采用者的经验教训

CIO的生存之道：企业中AI早期采用者的经验教训
在AI浪潮席卷企业的今天，CIO如何从“被动求生”转向“主动破局”?全球顶尖CIO Tim Crawford与Isaac Sacolick指出了AI落地的核心矛盾：从战略对齐到数据治理，从企业变革到风险博弈。 这两位CIO不仅揭示了早期AI先行者的血泪教训，更给出了摆脱“试点困境”、重构商业价值的硬核路径。 要点概述：战略整合：CIO如何将AI举措与核心业务目标相结合，以推动业务增长和增强竞争优势。
2/26/2025 1:39:03 PM
Michael Krigsman
何恺明ResNet级神作，分形生成模型计算效率狂飙4000倍！清华校友一作

何恺明ResNet级神作，分形生成模型计算效率狂飙4000倍！清华校友一作
图像生成建模全新范式来了。 你是否曾凝视过雪花的精致对称，或惊叹于树枝的无穷分支？ 这些都是大自然中的「分形」。
2/26/2025 1:23:08 PM
新智元
全自动驾驶真的来了！花6万4才能用！马斯克急忙上线阉割版!AI提醒驾驶员别走神，网友实测翻车:秒变移动路障；李想：在实战中分高下

全自动驾驶真的来了！花6万4才能用！马斯克急忙上线阉割版!AI提醒驾驶员别走神，网友实测翻车:秒变移动路障；李想：在实战中分高下
出品 | 51CTO技术栈（微信号：blog51cto）千呼万唤，特斯拉FSD真的来了！ 特斯拉已开始在中国向车主分批次推送FSD的软件更新了，版本号2024.45.32.12，与北美版一致。 不过，马斯克急急慌慌入华的FSD，槽点好像真的有点多。
2/26/2025 1:18:37 PM
多模态大模型对齐新范式，10个评估维度全面提升，快手&中科院&南大打破瓶颈

多模态大模型对齐新范式，10个评估维度全面提升，快手&中科院&南大打破瓶颈
尽管多模态大语言模型（MLLMs）取得了显著的进展，但现有的先进模型仍然缺乏与人类偏好的充分对齐。 这一差距的存在主要是因为现有的对齐研究多集中于某些特定领域（例如减少幻觉问题），是否与人类偏好对齐可以全面提升MLLM的各种能力仍是一个未知数。 快手，中科院，南大合作从三个层面入手推动MLLM alignment的发展，包括数据集，奖励模型以及训练算法，最终的alignment pipeline使得不同基础模型在10个评估维度，27个benchmark上都取得了一致的性能增益，比较突出的是，基于本文提出的数据集和对齐算法对LLaVA-ov-7B模型进行微调后， conversational能力平均提升了19.5%，安全性平均提升了60%。
2/26/2025 1:00:00 PM
量子位