AI在线 AI在线

优化

借助上下文工程优化任何AI代理框架

借助上下文工程优化任何AI代理框架
在人工智能代理技术飞速发展的当下，许多开发团队都深陷一系列棘手问题：代理时常出现幻觉输出、工作链中途断裂、提示词臃肿不堪，而团队往往将这些问题归咎于模型参数不足，一心寄望于更强大的模型能带来转机。 然而，事实却并非如此。 相关实践数据清晰地表明，73%的生产环境故障根源在于糟糕的上下文工程，而非模型本身的局限性。
8/8/2025 1:45:00 AM
大模型之路
停止提示词优化，开始系统设计：五种切实有效的智能体AI模式

停止提示词优化，开始系统设计：五种切实有效的智能体AI模式
当我刚开始使用大语言模型（LLMs）时，曾天真地以为关键在于写出完美的提示词。 只要给足上下文，模型就能立竿见影地解决问题，对吧？ 事实并非如此。
8/4/2025 1:55:00 AM
大模型之路
字节Seed提出序贯策略优化方法，突破同传“质量-延迟”权衡问题

字节Seed提出序贯策略优化方法，突破同传“质量-延迟”权衡问题
AI字幕总是慢半拍，质量和延迟难以平衡是业界老问题了。 为此，香港中文大学、字节跳动Seed和斯坦福大学研究团队出手，提出了一种面向同声传译的序贯策略优化框架 (Sequential Policy Optimization for Simultaneous Machine Translation, SeqPO-SiMT)。 在70亿参数（7B）规模上实现SOTA。
6/19/2025 8:49:00 AM
十步优化超越强化学习，仅需1条未标注数据！后训练强势破局

十步优化超越强化学习，仅需1条未标注数据！后训练强势破局
在具备强大的通用性能之后，当下大模型的研究方向已经转向了「如何解决特定且复杂的推理任务」，比如数学问题、分析物理现象或是构建编程逻辑。 要想达到更高的性能，除了海量文本的预训练之外，往往还需要进一步的后训练。 主流后训练方法是采用强化学习（RL），特别是结合可验证奖励的强化学习（RLVR）。
6/5/2025 2:33:00 AM
新智元
斯坦福意外用AI生成超强CUDA内核，性能比人类专家优化得还要好！翻倍碾压原生PyTorch，华人主创

斯坦福意外用AI生成超强CUDA内核，性能比人类专家优化得还要好！翻倍碾压原生PyTorch，华人主创
好家伙，AI意外生成的内核（kernel），性能比人类专家专门优化过的还要好！ 斯坦福最近披露了一组新发现，结果真的太亮眼了。 由AI优化的内核，在常见深度学习操作上，翻倍超越原生PyTorch，性能至多可以提升近400%——矩阵乘法（Matmul，FP32）：性能达到PyTorch torch.matmul的101.3%。
6/3/2025 8:17:00 AM
腾讯助力DeepSeek：网络通信性能大幅提升，AI训练更高效

腾讯助力DeepSeek：网络通信性能大幅提升，AI训练更高效
近日，腾讯技术团队对 DeepSeek 开源的 DeepEP 通信框架进行了深度优化，显著提升了其在多种网络环境下的性能。 经过测试，优化后的通信框架在 RoCE 网络环境下的性能提升达到了惊人的100%，而在 IB 网络环境中则提升了30%。 这一成果不仅为企业的 AI 大模型训练提供了更高效的解决方案，还为相关技术的进一步发展奠定了基础。
5/8/2025 7:00:46 PM
AI在线
大模型重复生成内容：根因剖析与优化策略

大模型重复生成内容：根因剖析与优化策略
前言最近在调试大模型应用过程中，遇到了如下问题：复制大模型首次生成内容与「重新生成」两次返回的内容近乎完全相同，几乎没有体现出任何差异性。 面对这种情况，造成大模型输出高度相似的原因是什么呢？ 我们又该采取怎样的调整策略，才能使重新生成的内容与前次存在明显差异，提升输出的多样性呢？
4/28/2025 2:22:00 AM
张张
RAG分块优化之语义分块方法CrossFormer模型技术思路

RAG分块优化之语义分块方法CrossFormer模型技术思路
笔者在前期文章中总结了RAG的分块《RAG常见13种分块策略大总结（一览表）》，本文介绍一个语义分段的工作，该工作解决的问题是文本语义分割，即将文档分割成多个具有连续语义的段落。 传统方法通常依赖于预处理文档以分段来解决输入长度限制问题，但这会导致段间关键语义信息的丢失。 RAG系统中的文本分块方法主要分为基于规则和基于LLM的方法。
4/2/2025 4:00:00 AM
余俊晖
从自我进化视角出发，全面解析LLM的推理能力技术演进路径

从自我进化视角出发，全面解析LLM的推理能力技术演进路径
论文标题：A Survey on LLM Complex Reasoning through the Lens of Self-Evolution论文链接：：. 引言在人工智能领域，大型语言模型的复杂推理研究正成为学术界和工业界关注的焦点。 随着 OpenAI 的 O1 以及后续 DeepSeek R1 等突破性成果的发布，这一领域的研究热度持续升温，引发了广泛的学术讨论和实践探索。
3/6/2025 9:08:00 PM
机器之心
REVOLVE：响应演化驱动的智能优化框架，破解传统AI优化瓶颈

REVOLVE：响应演化驱动的智能优化框架，破解传统AI优化瓶颈
iDreamer 致力于打造一个激发科研热情的全球中心。 我们帮助教授将愿景变为现实，为学生照亮塑造未来的道路。 在这里，没有资源的壁垒，没有思想的界限，只有团结一心追求卓越。
3/4/2025 11:00:00 AM
新闻助手
一个半月内加速药物设计，浙大侯廷军团队提出深度先导化合物优化AI新方法

一个半月内加速药物设计，浙大侯廷军团队提出深度先导化合物优化AI新方法
编辑 | 萝卜皮通过系统性改造来优化有前途的候选药物的化学结构，以提高药效和物理化学性质，这是药物发现过程中至关重要的一步。 与成熟的从头生成方案相比，专门针对先导化合物优化的计算方法仍未得到充分探索。 先前的模型通常仅限于解决特定的子任务，例如生成二维分子结构，而忽略了三维空间中至关重要的蛋白质-配体相互作用。
2/28/2025 4:56:00 PM
ScienceAI
月之暗面开源改进版Muon优化器，算力需求比AdamW锐减48%，DeepSeek也适用

月之暗面开源改进版Muon优化器，算力需求比AdamW锐减48%，DeepSeek也适用
算力需求比AdamW直降48%，OpenAI技术人员提出的训练优化算法Muon，被月之暗面团队又推进了一步！ 团队发现了Muon方法的Scaling Law，做出改进并证明了Muon对更大的模型同样适用。 在参数量最高1.5B的不同Llama架构模型上，改进后的Muon算力需求仅为AdamW的52%。
2/24/2025 9:15:00 AM
量子位
新手必看：用DeepSeek轻松产出爆款，三分钟掌握自媒体全流程

新手必看：用DeepSeek轻松产出爆款，三分钟掌握自媒体全流程
今天来分享如何利用 DeepSeek 高效创作自媒体文章，自媒体账号的打造和内容创作是一个系统性工程。 本文将详细拆解如何利用 DeepSeek 完成从账号定位到爆款内容创作的全流程，帮助你快速脱颖而出。 一、账号定位与赛道分析：知己知彼，精准切入1.
2/19/2025 12:07:56 AM
宇宙之一粟
PNAS顶刊 | 抗体中和活性提升1000倍，百奥几何生成式AI高效反击病毒新变种

PNAS顶刊 | 抗体中和活性提升1000倍，百奥几何生成式AI高效反击病毒新变种
编辑丨Science AI近日，百奥几何（BioGeometry）携手上海交通大学药学院朱建伟团队，基于生成式 AI 驱动的抗体优化策略，在短时间内精准优化 8G3 抗体，实现其对最新病毒变异株 JN.1 的中和活性 1000-1500 倍的跃升。 相关研究成果已正式发表在国际顶级期刊《美国国家科学院院刊》（PNAS）上【1】，继 CR3022 抗体、肿瘤抗原 5T4 纳米抗体【2】等多个优化案例后，再次证明了生成式 AI 驱动抗体工程的广泛适用性和变革潜力。 论文地址： AI 抗体工程：精准优化 8G3 抗体，中和活性提升 1000-1500 倍由于病毒基因组的快速进化和新变种的不断产生增加了治疗的复杂性，大多数早期开发的抗体已无法精准识别并有效结合目标，导致中和能力大幅下降。
2/10/2025 2:53:00 PM
ScienceAI
Yandex 开发并开源 Perforator，这款开源工具每年可为企业节省数十亿美元的服务器基础设施成本

Yandex 开发并开源 Perforator，这款开源工具每年可为企业节省数十亿美元的服务器基础设施成本
全球领先的科技公司 Yandex 开发并开源了 Perforator，这是一款用于对服务器和应用程序进行持续实时监控和分析的创新工具。 Perforator 帮助开发人员识别最占资源的代码部分，并提供详细的统计数据，以便进行后续优化。 通过识别代码中的低效部分并支持基于配置文件的优化，Perforator 提供了准确的数据，使企业能够手动优化其应用程序，根据公司规模，降低基础设施成本最多可达 20%。
2/10/2025 2:30:00 PM
新闻助手
AI加速优化求解，达摩院连续两年获求解器全国赛事冠军

AI加速优化求解，达摩院连续两年获求解器全国赛事冠军
以“AI 优化求解器”助力能源绿色转型，达摩院自研“敏迭”求解器连续获得权威赛事冠军。 1月17日消息，达摩院自主研发的“敏迭”求解器在工信部产业发展促进中心组织的第二届能源电子产业创新大赛上，再次斩获“国产求解器技术专题赛”冠军。 这是继近期入选工信部“人工智能赋能新型工业化”典型应用案例后的又一殊荣。
1/21/2025 10:12:00 AM
新闻助手
中科大&vivo最新深度估计DepthMaster：泛化能力、细节保留超越其他基于扩散方法

中科大&vivo最新深度估计DepthMaster：泛化能力、细节保留超越其他基于扩散方法
本文经3D视觉之心公众号授权转载，转载请联系出处。 单目深度估计的瓶颈单目深度估计（Monocular Depth Estimation, MDE）因其简单、低成本和易于部署的特点，受到了广泛关注。 与传统的深度传感技术（如LiDAR或立体视觉）不同，MDE仅需要一张RGB图像作为输入，因此在自动驾驶、虚拟现实和图像合成等多个应用领域中具有很高的吸引力。
1/9/2025 9:29:57 AM
3D视觉之心
推动智能决策，AutoML技术在腾讯广告推荐场景的探索与应用

推动智能决策，AutoML技术在腾讯广告推荐场景的探索与应用
广告推荐系统的表现直接影响用户体验和商业收益，如何在海量数据中精准捕捉用户需求并提供个性化推荐，成为广告推荐场景面临的重要挑战。 为了解决该场景中的数据稀疏、冷启动等问题，腾讯机器学习平台部对 AutoML 相关技术进行了深入的研究，发表了一系列具有创新性的学术论文。 一、AutoML 技术背景AutoML 自动化机器学习，是一个旨在简化和自动化机器学习模型开发过程的领域。
12/24/2024 11:21:00 AM
新闻助手