AI在线 AI在线

华为张修征:今年上半年 CloudMatrix 384 超节点将有数万规模上线,有望“彻底终结算力焦虑”

华为公司副总裁张修征今日表示,华为云 CloudMatrix 384 超节点今年上半年将有数万规模的上线,这或将彻底终结算力焦虑。未来,CloudMatrix 超节点可以构建超过万片的大集群来提供算力。(科创板日报)

据《科创板日报》报道,华为公司副总裁张修征今日表示,华为云 CloudMatrix 384 超节点今年上半年将有数万规模的上线,这或将彻底终结算力焦虑。未来,CloudMatrix 超节点可以构建超过万片的大集群来提供算力。

据AI在线此前报道,4 月 10 日,华为云生态大会 2025 于安徽芜湖召开,华为常务董事、华为云计算 CEO 张平安公布了 AI 基础设施架构进展,推出 CloudMatrix 384 超节点,并宣布已在芜湖数据中心规模上线。

图片

据介绍,华为云 CloudMatrix 384 超节点可实现从服务器级到矩阵级的资源供给模式转变,具备“高密”“高速”“高效”的特点,通过架构创新,在算力、互联带宽、内存带宽等方面实现领先。

华为云还表示,对昇腾 AI 云服务进行持续优化,目前其已全面适配包含 DeepSeek 在内的 160 多个第三方大模型,为大模型训推提供可靠保障,支撑行业应用快速落地。此外,华为云盘古大模型已在 30 多个行业、400 多个场景中落地,在城市治理、智慧金融、医疗健康、气象预测等领域广泛应用。

硅基流动也宣布联合华为云基于 CloudMatrix 384 超节点昇腾云服务和高性能推理框架 SiliconLLM ,用大规模专家并行最佳实践正式上线 DeepSeek-R1。

华为张修征:今年上半年 CloudMatrix 384 超节点将有数万规模上线,有望“彻底终结算力焦虑”

硅基流动介绍称,该服务在保证单用户 20 TPS 水平前提下,单卡 Decode 吞吐突破 1920 Tokens / s,可比肩 H100 部署性能。同时,经过主流测试集验证及大规模线上盲测,在昇腾算力部署 DeepSeek-R1 的模型精度与 DeepSeek 官方保持一致。

相关资讯

华为推出昇腾超节点技术,成功实现业界最大规模 384 卡高速总线互联

IT之家从华为中国官方获悉,此次推出的昇腾 384 超节点,由 12 个计算柜和 4 个总线柜构成,是目前业界规模最大的超节点。依托华为在 ICT 领域深厚的技术与工程经验,通过最佳负载均衡组网方案,该超节点可进一步扩展为包含数万卡的 Atlas 900 SuperCluster 超节点集群,为未来更大规模的模型演进提供支撑。
5/25/2025 2:40:16 PM
归泷

液冷黑科技+场景化算力,华弘数科定义AI前置智算中心新形态

3 月 27 日,华弘数科在北京召开战略发布会,展示了在 AI 全液冷前置智算中心领域的技术创新性和战略前瞻性。 开创智算新物种华弘数科创始人罗华深耕数据领域多年,认为 AI 场景逐渐由训练转向推理,企业对低延迟、高能效、快速部署、灵活移动的实时算力需求将激增。 通过对云智算中心、边侧和端侧的深度分析,首次定义了基于边侧和端侧的前置智算中心。
3/27/2025 6:53:00 PM
新闻助手

警惕 AI 扩张!十年内或吞噬巨量电力,成本飙升至数千亿美元

近日,一项由乔治城大学、Epoch AI 和兰德公司研究人员进行的新研究警告称,如果当前趋势持续,用于训练和运行人工智能的数据中心将在未来十年内面临爆炸式增长,其芯片数量可能达到数百万个,耗资数千亿美元,并需要相当于大型城市电网的电力供应。 该研究分析了2019年至今全球500多个 AI 数据中心项目的数据,揭示了惊人的增长轨迹。 尽管数据中心的计算性能每年增长超过一倍,但其电力需求和资本支出也在同步攀升。
4/25/2025 10:00:58 AM
AI在线
  • 1