大型视觉语言模型

将多模态大模型稀疏化，3B模型MoE-LLaVA媲美LLaVA-1.5-7B

对于大型视觉语言模型（LVLM）而言，扩展模型可以有效提高模型性能。然而，扩大参数规模会显著增加训练和推理成本，因为计算中每个 token 都会激活所有模型参数。基于此，来自北京大学、中山大学等机构的研究者联合提出了一种新颖的 LVLM 训练策略 ——MoE-Tuning。MoE-Tuning 可以构建参数数量惊人但计算成本恒定的稀疏模型，并有效解决通常与多模态学习和模型稀疏性相关的性能下降问题。该研究还提出了一种基于 MoE 的新型稀疏 LVLM 架构 ——MoE-LLaVA 框架。该框架独特地在部署过程中通过路

1/31/2024 3:01:00 PM

机器之心

资讯热榜

腾讯混元推出业界首个美术级 3D 生成大模型 Hunyuan3D-PolyGen，建模效率提升超七成 Cluely 短短一周内年收入翻倍至700万美元揭开大模型的秘密！那些 “思考词” 背后藏着惊人的信息量微信支付MCP上线：AI与支付的完美结合，开启商业新纪元日立能源警告：AI 中心的电力需求波动可能威胁全球电力供应稳定 Kyutai Labs 开源 Kyutai TTS:低延迟流式文本转语音技术谷歌Veo 3视频生成模型向 Pro / Ultra 会员开放，将新增“照片生成视频”功能苹果发布 DiffuCode-7B-cpGRPO 编程 AI 模型：基于 Qwen2.5-7B，可不按顺序生成代码

标签云

人工智能 AI OpenAI AIGC 模型 ChatGPT DeepSeek AI绘画谷歌数据机器人大模型 Midjourney 用户智能开源微软 Meta GPT 学习图像技术 Gemini AI创作马斯克论文 Anthropic 代码英伟达算法 Stable Diffusion 芯片智能体训练开发者生成式腾讯蛋白质苹果 AI新词神经网络 3D 研究生成 Claude LLM 机器学习计算 Sora AI视频 AI设计 GPU 人形机器人 AI for Science xAI 华为百度搜索大语言模型 Agent 场景字节跳动预测深度学习伟达大型语言模型工具 Transformer RAG 视觉神器推荐具身智能 Copilot 模态亚马逊 LLaMA 文本 AGI 算力驾驶