AI在线 AI在线

AMD 重磅升级!锐龙 AI Max+ 395 让 1280 亿参数大模型在本地运行成为现实!

在科技飞速发展的今天,AMD 再一次引领潮流,推出了基于 Zen5架构的锐龙 AI Max 395。 这款处理器不仅是行业的佼佼者,更是首个能够在本地运行700亿参数 AI 大模型的平台。 而现在,AMD 宣布重磅升级,锐龙 AI Max 395可以支持本地运行高达1280亿参数的大模型,进一步拓展了其在 AI 领域的应用潜力。

在科技飞速发展的今天,AMD 再一次引领潮流,推出了基于 Zen5架构的锐龙 AI Max+395。这款处理器不仅是行业的佼佼者,更是首个能够在本地运行700亿参数 AI 大模型的平台。而现在,AMD 宣布重磅升级,锐龙 AI Max+395可以支持本地运行高达1280亿参数的大模型,进一步拓展了其在 AI 领域的应用潜力。

唯一本地跑 1280 亿参数大模型!AMD锐龙AI Max+  395 重磅升级

为了实现这样的性能,锐龙 AI Max+395依旧需要搭配128GB 的统一内存,其中96GB 必须被分配作为显存。此外,该处理器还要求在 Vulkan llama.cpp 环境下运行,这为开发者提供了更大的灵活性。新的升级使得锐龙 AI Max+395成为第一个能够运行1090亿参数的 Meta Llama4Sout 大模型的平台,该模型体积达66GB,支持多种高级功能如 Vision 和 MCP。

唯一本地跑 1280 亿参数大模型!AMD锐龙AI Max+  395 重磅升级

这次升级的核心在于混合专家(MoE)模式,这种模式每次仅激活模型的一部分,从而在保持性能的同时大幅降低资源消耗。锐龙 AI Max+395在实际测试中可以实现每秒15Tokens 的处理速度,表现相当出色。同时,它还支持68GB 体积、1230亿参数的 Mistral Large 模型,以及其他多个小型模型,如18GB、300亿参数的 Qwen3A3B 和17GB、270亿参数的 Google Gemma。

更为惊人的是,锐龙 AI Max+395在上下文处理上也有了质的飞跃,最大支持256000Tokens 的上下文长度,让其能够处理和分析更为复杂的数据资料。虽然一般的非大规模模型在32000Tokens 的上下文下已足够,但此次升级后的处理器带来了更多可能性,往日需要高端设备才能实现的超大规模上下文,如今也能在 AMD 的产品中轻松实现。

价格方面,搭载锐龙 AI Max+395及128GB 内存的迷你 AI 工作站,现已降至1.3万元左右,性价比显著提升,极大地降低了高端 AI 应用的门槛。

相关资讯

苏姿丰亮相北京高喊 YES,AMD 展示 AI 笔记本实时简笔画生图

感谢在今日下午的 AMD AI PC 创新峰会上,AMD CEO 苏姿丰亮相北京的峰会现场,喊出“AMD AI PC YES!”▲ IT之家现场小编与“苏妈”苏姿丰合影本次峰会主要介绍 AMD 锐龙 8040 系列移动处理器的 AI 功能和 Ryzen AI Software 平台,苏姿丰表示数以百万计的锐龙 AI PC 已经出货。AMD 还晒出了不同的 AI 产品架构,包括 Zen CPU 的路线图和 RDNA GPU 的路线图。随后,AMD 展示了锐龙 7 8845HS 笔记本上的 AI 应用,包括实时画图、写
3/21/2024 3:56:15 PM
汪淼

AMD:锐龙 8040 系列处理器 AI 性能完胜英特尔酷睿 Ultra 处理器

AMD 近日公布了一系列基准测试,声称其锐龙移动版 7040 Phoenix 系列和 8040 系列处理器在运行大型语言模型 (LLMs) 方面,性能最高可领先于英特尔最新的 Core Ultra Meteor Lake CPU 达 79%。IT之家注意到,本次测试对比的是 AMD 锐龙 7 7840U 和英特尔 Core Ultra 7 155H 处理器,两款芯片均配备了硬件神经网络处理单元 (NPU)。AMD 展示了多张幻灯片,对比了这两款处理器的 Mistral 7b、Llama v2 和 Mistral I
4/7/2024 2:46:07 PM
远洋

百度全面升级百舸 AI 异构计算平台 4.0、千帆大模型平台 3.0

感谢2024 百度云智大会今日在北京召开,百度在大会上宣布全面升级百舸 AI 异构计算平台 4.0、千帆大模型平台 3.0 两大 AI 基础设施,并升级代码助手、智能客服、数字人三大 AI 原生应用产品。百度智能云事业群总裁沈抖表示:“2024 年大模型的产业落地正在加速,目前在千帆大模型平台上,文心大模型日均调用量超过 7 亿次,累计帮助用户精调了 3 万个大模型,开发出 70 多万个企业级应用。过去一年,文心旗舰大模型降价幅度超过 90%,主力模型全面免费。”升级百舸 4.0为满足企业落地大模型从集群创建、开发
9/25/2024 5:48:57 PM
汪淼
  • 1