鄂维南

鄂维南院士领衔新作：大模型不止有RAG、参数存储，还有第3种记忆

2.4B 的 Memory3比更大的 LLM 和 RAG 模型获得了更好的性能。近年来，大型语言模型 (LLM) 因其非凡的性能而获得了前所未有的关注。然而， LLM 的训练和推理成本高昂，人们一直在尝试通过各种优化方法来降低成本。本文来自上海算法创新研究院、北京大学等机构的研究者受人类大脑记忆层次结构的启发，他们通过为 LLM 配备显式记忆（一种比模型参数和 RAG 更便宜的记忆格式）来降低这一成本。从概念上讲，由于其大部分知识都外化为显式记忆，因而 LLM 可以享受更少的参数大小、训练成本和推理成本。论文地址：

7/10/2024 11:40:00 AM

机器之心

资讯热榜

量大管饱！我整理了10个好用到爆的即梦4.0进阶玩法全球高校 “猎杀” AI作业！学生如何应对 “人类化” 挑战？甲骨文公司股价飙升 27%，人工智能未来收入大幅增长 Gemini加密交易所IPO价格大幅上调，目标估值超30亿美元！ AI 数据版权新纪元：Real Simple Licensing 协议引发行业关注 ChatGPT能随便连MCP了！对话就能开发票、帮退款…奥特曼的野心毕露：将OpenAI打造成全能型平台！开发者：太危险了不敢用 OpenAI进军韩国市场，携手三星与SK海力士共建AI未来！为什么 LangChain ReAct 机制值得关注？

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌机器人数据大模型 Midjourney 开源智能 Meta 用户微软 GPT 学习技术图像 Gemini 智能体马斯克 AI新词 AI创作 Anthropic 英伟达论文训练代码算法 LLM Stable Diffusion 芯片腾讯苹果蛋白质 Claude 开发者 AI for Science Agent 生成式神经网络机器学习 3D xAI 研究人形机器人生成 AI视频百度计算工具 Sora GPU 大语言模型华为 RAG AI设计字节跳动具身智能搜索大型语言模型场景深度学习 AGI 视频生成预测视觉伟达架构 Transformer 神器推荐 DeepMind 亚马逊特斯拉编程 AI模型