AI在线 AI在线

万全异构智算平台

联想问天WA7785a G3服务器创纪录!单机运行671B DeepSeek大模型吞吐量高达6708token/s!

联想问天WA7785a G3服务器创纪录!单机运行671B DeepSeek大模型吞吐量高达6708token/s!
联想今日宣布，旗下首款 AMD AI 大模型训练服务器——联想问天 WA7785a G3在单机部署671B（满血版） DeepSeek 大模型时，实现了高达6708token/s 的极限吞吐量，再次刷新了单台服务器运行超大规模模型性能的纪录。 据介绍，此次性能突破得益于联想万全异构智算平台的强大支持。 联想通过访存优化、显存优化、创新的 PCIe5.0全互联架构以及精选 SGLang 框架中的最优算子等一系列创新技术手段，对大模型从预训练、后训练到推理的全流程进行了持续优化。
3/17/2025 2:51:00 PM
AI在线
联想黄山：「超智融合」成算力新趋势，联想打造异构智算平台

联想黄山：「超智融合」成算力新趋势，联想打造异构智算平台
9 月 24 日至 26 日，第20届CCF全国高性能计算学术年会（CCF HPC China 2024）在武汉市中国光谷科技会展中心正式开幕。 本次大会上，联想以“异构智算 稳定高效”为主题，携“一横五纵”算力基础设施战略、联想万全异构智算平台、联想AI解决方案、联想科学计算整体解决方案参展。 面对人工智能的浪潮，作为全球领先的科学计算解决方案提供商，联想以“一横五纵”战略框架，构建布局完整、稳定高效的AI基础设施，为企业智能化转型打造坚实可靠的智算底座。
9/27/2024 10:50:00 AM
朱可轩
  • 1