EvolKV

将KV Cache预算降至1.5%！他们用进化算法把大模型内存占用砍下来了

只用 1.5% 的内存预算，性能就能超越使用完整 KV cache 的模型，这意味着大语言模型的推理成本可以大幅降低。 EvolKV 的这一突破为实际部署中的内存优化提供了全新思路。图源：（KV cache）已经成为大模型快速运行的核心技术，它就像一个「记忆库」，能够保存之前计算过的结果并重复使用，这样就不用每次都重新计算同样的内容。

9/14/2025 1:48:00 PM

机器之心

资讯热榜

看完刘润年度演讲，教你做好AI时代的能力迁徙！苹果Siri将大变样！付费请谷歌助力AI升级蚂蚁数科发布多语种视觉大模型训练框架，打破语言壁垒！ LangChain 大模型应用开发框架：从 RAG 到 Agent 的完整指南黑客新手法：利用 OpenAI API 创建 “隐形” 后门恶意软件谷歌推出新款 Vertex AI 代理构建工具，助力企业智能化中国华电发布 “华电智” 大模型，能源管理进入智能新时代谷歌流量显著下降，People Inc. 与微软达成 AI 内容授权协议

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek 谷歌 AI绘画大模型机器人数据 Midjourney 开源 Meta AI新词微软智能用户 GPT 学习技术智能体马斯克 Gemini 图像 Anthropic 英伟达 AI创作训练 LLM 论文代码算法 Agent AI for Science 芯片苹果 Claude 腾讯 Stable Diffusion 蛋白质开发者生成式神经网络 xAI 机器学习 3D RAG 人形机器人 AI视频研究大语言模型具身智能生成百度 Sora 工具 GPU 华为计算字节跳动 AI设计大型语言模型 AGI 搜索视频生成场景深度学习架构生成式AI DeepMind 亚马逊编程视觉 Transformer AI模型预测特斯拉 MCP