AI在线 AI在线

华为诺亚方舟实验室

稀疏注意力再添一员，华为诺亚推出高效选择注意力架构ESA

稀疏注意力再添一员，华为诺亚推出高效选择注意力架构ESA
AIxiv专栏是AI在线发布学术、技术内容的栏目。 过去数年，AI在线AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。 如果您有优秀的工作想要分享，欢迎投稿或者联系报道。
2/24/2025 5:05:00 PM
机器之心
理解生成协同促进？华为诺亚提出ILLUME，15M数据实现多模态理解生成一体化

理解生成协同促进？华为诺亚提出ILLUME，15M数据实现多模态理解生成一体化
AIxiv专栏是AI在线发布学术、技术内容的栏目。 过去数年，AI在线AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。 如果您有优秀的工作想要分享，欢迎投稿或者联系报道。
12/31/2024 1:15:00 PM
机器之心
让AI像人类一样操作手机，华为也做出来了

让AI像人类一样操作手机，华为也做出来了
用不了多久就要实装了？ 这个星期，AI 大模型突然迈上了一个新台阶，竟开始具备操作计算机的能力！ 从 AI 创业公司，科技巨头到手机厂商，都纷纷亮出了自己的新产品。
10/25/2024 5:57:00 PM
机器之心
华为诺亚联合中科大发布工具调用模型ToolACE，效果持平GPT-4获开源第一

华为诺亚联合中科大发布工具调用模型ToolACE，效果持平GPT-4获开源第一
AIxiv专栏是机器之心发布学术、技术内容的栏目。过去数年，机器之心AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：[email protected]；[email protected]
9/15/2024 1:46:00 PM
机器之心
70倍极致压缩！大模型的检查点再多也不怕

70倍极致压缩！大模型的检查点再多也不怕
AIxiv专栏是AI在线发布学术、技术内容的栏目。过去数年，AI在线AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投稿或者联系报道。投稿邮箱：[email protected]；[email protected]该论文的作者均来自于华为诺亚实验室，第一作者为李文硕，通讯作者为王云鹤和陈醒濠。相关团队团队近年来在ICML、CVPR、NeurIPS、ICCV、ECCV等顶会上有多项代表性工作发表，在高
8/5/2024 2:25:00 PM
机器之心
DenseMamba：大模型的DenseNet时刻，Mamba和RetNet精度显著提升

DenseMamba：大模型的DenseNet时刻，Mamba和RetNet精度显著提升
近期，来自华为诺亚方舟实验室的研究者提出了 DenseSSM，用于增强 SSM 中各层间隐藏信息的流动。通过将浅层隐藏状态有选择地整合到深层中，DenseSSM 保留了对最终输出至关重要的精细信息。DenseSSM 在保持训练并行性和推理效率的同时，通过密集连接实现了性能提升。该方法可广泛应用于各种 SSM 类型，如 Mamba 和 RetNet。随着 ChatGPT 的突破性进展，大型语言模型（LLMs）迎来了一个崭新的里程碑。这些模型在语言理解、对话交互和逻辑推理方面展现了卓越的性能。过去一年，人们目睹了 LL
3/11/2024 2:32:00 PM
机器之心
基于DiT，支持4K图像生成，华为诺亚0.6B文生图模型PixArt-Σ来了

基于DiT，支持4K图像生成，华为诺亚0.6B文生图模型PixArt-Σ来了
这个模型和 Sora 一样采用了 DiT 框架。众所周知，开发顶级的文生图（T2I）模型需要大量资源，因此资源有限的个人研究者基本都不可能承担得起，这也成为了 AIGC（人工智能内容生成）社区创新的一大阻碍。同时随着时间的推移，AIGC 社区又能获得持续更新的、更高质量的数据集和更先进的算法。于是关键的问题来了：我们能以怎样的方式将这些新元素高效地整合进现有模型，依托有限的资源让模型变得更强大？为了探索这个问题，华为诺亚方舟实验室等研究机构的一个研究团队提出一种新的训练方法：由弱到强式训练（weak-to-stro
3/11/2024 11:51:00 AM
机器之心
  • 1