MoA

告别“单打独斗”！AI 协作新范式 MoA，如何集结大模型“梦之队”？

大模型浪潮下，你的 AI 应用遇到瓶颈了吗？当 GPT、Claude、文心一言等各类强大模型如繁星般涌现，我们惊喜于它们令人惊叹的能力。然而，在实际落地中，我们常常发现，即使是最顶尖的单一模型，也难以完美应对所有复杂场景的需求。

5/21/2025 4:27:00 PM

贝塔街的万事屋

无问芯穹提出混合稀疏注意力方案MoA，加速长文本生成，实现最高8倍吞吐率提升

随着大语言模型在长文本场景下的需求不断涌现，其核心的注意力机制（Attention Mechanism）也获得了非常多的关注。注意力机制会计算一定跨度内输入文本（令牌，Token）之间的交互，从而实现对上下文的理解。随着应用的发展，高效处理更长输入的需求也随之增长 [1][2]，这带来了计算代价的挑战：注意力高昂的计算成本和不断增长的键值缓存（KV-Cache）代价。

11/8/2024 1:12:00 PM

机器之心

资讯热榜

DeepSeek刚提到FP8，英伟达就把FP4精度推向预训练，更快、更便宜多模态新旗舰MiniCPM-V 4.5：8B 性能超越 72B，高刷视频理解又准又快联合国成立人工智能咨询小组宾州州立大学推出首个人工智能工程学位，抢占教育先机深度测评！谷歌全新AI模型Nano Banana（附30+提示词案例） AI 安全测试揭示聊天机器人助长恐怖活动与网络犯罪开发者写代码仅占16%!MCP 协议或让 IDE 成为新“生产力中心” Meta 新超级智能实验室遭遇离职潮，AI 人才流失引发担忧

标签云

AI 人工智能 OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌机器人数据大模型 Midjourney 开源智能 Meta 用户微软 GPT 学习技术图像 Gemini 马斯克 AI创作智能体 Anthropic 英伟达论文 AI新词代码训练算法 Stable Diffusion LLM 芯片蛋白质腾讯开发者 Claude 苹果生成式 AI for Science Agent 神经网络 3D 机器学习研究 xAI 生成人形机器人 AI视频计算百度 Sora GPU 华为 AI设计工具 RAG 大语言模型搜索具身智能字节跳动大型语言模型场景深度学习预测视频生成伟达视觉 Transformer AGI 架构亚马逊神器推荐 Copilot 特斯拉应用 DeepMind