AI在线 AI在线

检索增强生成

深度解析RAG大模型知识冲突，清华西湖大学港中文联合发布

深度解析RAG大模型知识冲突，清华西湖大学港中文联合发布

AIxiv专栏是AI在线发布学术、技术内容的栏目。过去数年，AI在线AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：[email protected]；[email protected]本文章的作者为清华大学交叉信息院二年级硕士生许融武和一年级博士生祁泽涵，他们也是本篇综述的的主要作者。随着人工智能和大型模型技术的迅猛发展，检索增强生成（Retrieval-Augment
7/10/2024 2:34:00 PM 机器之心
谷歌10M上下文窗口正在杀死RAG？被Sora夺走风头的Gemini被低估了？

谷歌10M上下文窗口正在杀死RAG？被Sora夺走风头的Gemini被低估了？

RAG 还有存在的必要吗？要说最近最郁闷的公司，谷歌肯定算得上一个：自家的 Gemini 1.5 刚刚发布，就被 OpenAI 的 Sora 抢尽了风头，堪称 AI 界的「汪峰」。具体来说，谷歌这次推出的是用于早期测试的 Gemini 1.5 的第一个版本 ——Gemini 1.5 Pro。它是一种中型多模态模型（涉及文本、视频、音频），性能水平与谷歌迄今为止最大的模型 1.0 Ultra 类似，并引入了长上下文理解方面的突破性实验特征。它能够稳定处理高达 100 万 token（相当于 1 小时的视频、11 小时
2/27/2024 2:55:00 PM 机器之心
专补大模型短板的RAG有哪些新进展？这篇综述讲明白了

专补大模型短板的RAG有哪些新进展？这篇综述讲明白了

同济大学王昊奋研究员团队联合复旦大学熊赟教授团队发布检索增强生成（RAG）综述，从核心范式，关键技术到未来发展趋势对 RAG 进行了全面梳理。这份工作为研究人员绘制了一幅清晰的 RAG 技术发展蓝图，指出了未来的研究探索方向。同时，为开发者提供了参考，帮助辨识不同技术的优缺点，并指导如何在多样化的应用场景中最有效地利用这些技术。大型语言模型（LLMs）已经成为我们生活和工作的一部分，它们以惊人的多功能性和智能化改变了我们与信息的互动方式。然而，尽管它们的能力令人印象深刻，但它们并非无懈可击。这些模型可能会产生误导性
1/8/2024 11:27:00 AM 机器之心
用检索增强生成让大模型更强大，这里有个手把手的Python实现

用检索增强生成让大模型更强大，这里有个手把手的Python实现

自从人们认识到可以使用自己专有的数据让大型语言模型（LLM）更加强大，人们就一直在讨论如何有效地将 LLM 的一般性知识与专有数据整合起来。对此人们也一直在争论：微调和检索增强生成（RAG）哪个更合适？本文首先将关注 RAG 的概念和理论。然后将展示可以如何使用用于编排（orchestration）的 LangChain、OpenAI 语言模型和 Weaviate 向量数据库来实现一个简单的 RAG。检索增强生成是什么？检索增强生成（RAG）这一概念是指通过外部知识源来为 LLM 提供附加的信息。这让 LLM 可以
11/21/2023 11:31:00 AM 机器之心