Cerebras 推出第三代晶圆级芯片 WSE-3:台积电 5nm 制程,性能翻倍

晶圆级芯片创新企业 Cerebras 推出了其第三代芯片 WSE-3,声称以相同功耗相较上代产品 WSE-2 性能翻倍。IT之家整理 WSE-3 参数如下:台积电 5nm 制程;4 万亿个晶体管;900000 个 AI 核心;44GB 片上 SRAM 缓存;可选 1.5TB / 12TB / 1.2PB 三种片外内存容量;125 PFLOPS 的峰值 AI 算力。Cerebras 声称鉴于 WSE-3 的 CS-3 体系凭借其至高 1.2PB 的内存容量,可训练比 GPT-4 和 Gemini 大 10 倍的下一代

晶圆级芯片创新企业 Cerebras 推出了其第三代芯片 WSE-3,声称以相同功耗相较上代产品 WSE-2 性能翻倍。

IT之家整理 WSE-3 参数如下:

台积电 5nm 制程;

4 万亿个晶体管;

900000 个 AI 核心;

44GB 片上 SRAM 缓存;

可选 1.5TB / 12TB / 1.2PB 三种片外内存容量;

125 PFLOPS 的峰值 AI 算力。

Cerebras 推出第三代晶圆级芯片 WSE-3:台积电 5nm 制程,性能翻倍

Cerebras 声称鉴于 WSE-3 的 CS-3 体系凭借其至高 1.2PB 的内存容量,可训练比 GPT-4 和 Gemini 大 10 倍的下一代前沿模型。其可在单个逻辑内存空间中容纳 24000T 参数规模的模型,大大简化了开发人员的工作。

CS-3 适合超大规模 AI 需求,紧凑的四体系集群可以在一天内微调 70B 模型,而在使用最大规模的 2048 个 CS-3 体系集群时,可以在一天内完成 Llama 70B 模型的训练。

Cerebras 表示 CS-3 体系具有卓越的易用性,大模型训练中所需代码相较 GPU 减少 97%,仅需 565 行代码就可达成 GPT-3 大小模型的标准实现。

阿联酋 G42 财团已表示将打造鉴于 Cerebras CS-3 的 Condor Galaxy 3 超算,包含 64 个体系,可提供 8 exaFLOP 的 AI 算力。

给TA打赏
共{{data.count}}人
人已打赏
AI

首款生成式 AI 保险平安解决方案,微软 Copilot for Security 4 月 1 日上线

2024-3-14 8:33:51

AI

200 名专家编辑告诉:AI 发展大概对人类构成“灭尽级威逼”

2024-3-14 13:51:03

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索