AI在线 AI在线

H200

英伟达 AI 芯片 H200 开始供货，性能相比 H100 提升 60%-90%

英伟达 AI 芯片 H200 开始供货，性能相比 H100 提升 60%-90%
感谢据日本经济新闻今日报道，英伟达的尖端图像处理半导体（GPU）H200 现已开始供货。H200 为面向 AI 领域的半导体，性能超过当前主打的 H100。根据英伟达方面公布的性能评测结果，以 Meta 公司旗下大语言模型 Llama 2 处理速度为例，H200 相比于 H100，生成式 AI 导出答案的处理速度最高提高了 45％。市场调研机构 Omdia 曾表示，2022 年英伟达在 AI 半导体市场约占 8 成的份额，与此同时 AMD 等竞争对手也在开发对抗英伟达的产品，竞争愈演愈烈。英伟达当地时间 3 月 1
3/28/2024 6:19:52 PM
清源
最强AI芯片英伟达H200深夜发布，Llama2-70B推理提速90%，2024年二季度发货

最强AI芯片英伟达H200深夜发布，Llama2-70B推理提速90%，2024年二季度发货
芯片巨头英伟达，又打出一张王牌。英伟达在 2023 年全球超算大会（SC2023）上发布了目前世界上最强的 AI 芯片 H200。这款新的 GPU 基于 H100 进行了升级，内存带宽提高了 1.4 倍，内存容量提高了 1.8 倍，提高了处理生成式 AI 任务的能力。该公司高性能计算和超大规模数据中心业务副总裁 Ian Buck 表示：「英伟达在硬件和软件上的创新正在缔造新型 AI 超算。」英伟达在官方博客中表示：NVIDIA H200 Tensor Core GPU 具有改变游戏规则的性能和内存功能，可增强生成式
11/15/2023 11:15:00 AM
机器之心
  • 1