AI在线 AI在线

芯片

AI成为「耗电大户」,除了新能源,还需要芯片创新

人工智能的普及造成了一场能源危机,但并不是无法解决。人工智能(AI)的爆炸式增长促使科技巨头(包括 Google、Meta、亚马逊和微软等)开始构建超大规模数据中心,这些数据中心需要的电力非常多 —— 是以千兆瓦计算而不是兆瓦。有分析师表示,这些巨型数据中心使用现有的半导体技术来挑战美国老化的电网基础设施,以满足其能源消耗需求。例如,高盛估计仅对 ChatGPT 的一次查询所消耗的数据中心电能就比语音识别等传统人工智能功能多 10 倍,因此我们需要更强大的数据中心来支持这种需求。如今,生成式 AI(GenAI)处于
8/18/2024 3:02:00 PM
机器之心

联手对抗英伟达?消息称软银曾与英特尔讨论合作开发 AI 芯片,但以失败告终

感谢据英国《金融时报》北京时间今天午间报道,软银曾与英特尔进行了会谈,讨论生产 AI 芯片以与英伟达竞争,但由于英特尔未能满足软银的要求,这一计划最终失败。知情人士说,在这一场未曾见于报端的谈判中,软银原计划将 Arm 的设计和 Graphcore 的技术加速结合,以生产出与英伟达相抗衡的产品。软银首席执行官孙正义计划投资数十亿美元,试图将公司置于“AI 热潮”的中心。他的宏大计划涵盖从芯片生产和软件开发到为数据中心提供动力,这些数据中心将容纳软银的处理器。此前,孙正义已经向大型科技公司“推销”了自己的计划。知情人
8/15/2024 12:46:33 PM
清源

苹芯科技推出两款 PIMCHIP 系列 AI 芯片,探索推动存算一体技术落地

苹芯科技昨日(8 月 8 日)在北京举办“存算于芯智启未来”活动,推出了 PIMCHIP-S300 和 PIMCHIP-N300 两款 AI 芯片。PIMCHIP-S300官方介绍称该 AI 芯片是多模态智慧感知决策芯片,具备高能效、小面积、低功耗、低成本等特点。该芯片搭载基于 SRAM 的存算一体计算加速单元,计算核心能效比高达 27TOPS / W,让计算在存储器内部发生,有效减少计算过程中的数据搬运,核心计算单元的能效提升几十上百倍。AI在线从报道中获悉,PiMCHIP-S300 搭载轻量级 MCU 处理器,
8/9/2024 9:33:05 AM
故渊

挑战英伟达,AI 芯片公司 Groq 成功融资 6.4 亿美元:估值飙升至 28 亿美元

AI 芯片初创公司 Groq 本周一发布公告,宣布最新完成了 6.4 亿美元(AI在线备注:当前约 45.67 亿元人民币)融资,目标打造全新芯片,可以更快地处理 AI 推理等任务。Groq 完成本次融资后,前后共计完成融资超过 10 亿美元,公司估值达到 28 亿美元(当前约 199.83 亿元人民币)。报道称该公司最初计划以 25 亿美元估值融资 3 亿美元,不过该公司的 AI 芯片得到了投资者的认可,于是他们加大了投资力度。Groq 公司在 2021 年 4 月成功筹集了 3 亿美元,由老虎环球管理公司(Ti
8/6/2024 9:43:47 AM
故渊

消息称三星电子与 Naver 将在 Mach-1 后实质结束 AI 加速芯片开发合作

韩媒《首尔经济日报》(Sedaily)报道称,三星电子同韩国互联网巨头 Naver 的 AI 加速器开发合作关系将于 Mach-1 芯片推出后实质结束。在 Mach-1 后三星电子和 Naver 将分道扬镳,各自独立开发 AI 加速器并寻找新的合作伙伴。业内人士向韩媒表示,Naver 在 Mach-1 的开发设计中投入了大量精力,该 AI 推理芯片的架构设计与 Naver 的业务存在密切联系,非 Naver 客户难以充分发挥 Mach-1 芯片的潜力。而三星电子则需要尽快打造高度可用的 AI 算力芯片,以拿下更多下
8/5/2024 1:46:08 PM
溯波(实习)

英伟达回应 AI 芯片短缺:Blackwell 样品广泛试用,下半年增加量产

据第一财经报道,针对英伟达 AI 芯片被曝推迟发布的消息,8 月 4 日,英伟达方面回应记者称:“正如我们之前所说,Hopper 的需求非常强劲,Blackwell 的样品试用已经广泛开始,产量有望在下半年增加。除此之外,我们不对谣言发表评论。”此前 The Information 报道称,英伟达 AI 芯片设计缺陷可能会导致发布推迟三个月或更长时间,影响 Meta、谷歌和微软等客户。据AI在线此前报道,今年 7 月,英伟达为满足客户需求,向台积电追加 4nm 芯片订单,Blackwell 平台 GPU 芯片投片量
8/4/2024 1:45:54 PM
远洋

英伟达新 AI 芯片被曝因设计缺陷“跳票”至少 3 个月,微软、谷歌或受影响

感谢据《The Information》北京时间今天上午报道,帮助生产英伟达新 AI 芯片和服务器硬件的两位知情人士透露,由于存在“设计缺陷”,英伟达新型 AI 芯片的发布将被推迟三个月甚至更长时间。报道指出,这一缺陷可能会影响 Meta、谷歌、微软等一系列“大客户”,因为他们都已订购了价值数百亿美元的芯片。另外,还有一名微软员工和另一名知情人士透露,英伟达本周向微软和另一家大型云计算提供商发出通报,其新款 Blackwell 芯片中最先进的 AI 芯片将会“跳票”。据悉,微软是英伟达最大的客户之一。而据AI在线此
8/3/2024 11:22:54 AM
清源

马斯克:到 2026 年,Neuralink 将为超过 1000 名患者植入脑机芯片

亿万富翁马斯克创立的脑机接口公司 Neuralink 对未来有着雄心勃勃的计划。11 日傍晚,马斯克在自家的 X(推特)平台发文宣布,目标是到 2026 年,为超过 1000 名患者植入脑机芯片,这是可行的。据悉,第一位植入 Neuralink 脑机芯片的人类患者 Noland Arbaugh 曾公开表示,这项技术改变了自己的生活。据AI在线此前报道,Noland Arbaugh 颈部以下曾处于瘫痪状态,在接受手术前,无法“很好地”与技术进行交互,无法使用 iPad 和口含式点击设备快速打字。而在手术后,他能够轻松
7/12/2024 10:51:41 PM
清源

TechInsights:未来五年 AI 芯片将消耗全球超 1.5% 电力,产生超 10 亿吨碳排放

市场调研机构 TechInsights 今日发布最新预测称,数据中心 AI 芯片和加速器将继续主导全球半导体市场,从 2023 年到 2029 年,出货量将以 33% 的年复合增长率增长,达到每年 3300 万。该机构指出,生成式 AI 用例是芯片的最大驱动力,GPU 则是需求量最大的加速器。但在功率方面,“一些简单的计算”表明 AI 所需电力将在全球电力消耗中占据相当大的份额。以英伟达 H100 为例,其峰值功耗为 700W,与一台正在工作中的微波炉功耗大致相同。而随着超级芯片更新换代,峰值功耗仍有可能增加。一个
6/27/2024 1:43:04 PM
清源

全球首款 Transformer 专用 AI 芯片 Sohu 登场:每秒可处理 50 万个 tokens,比英伟达 H100 快 20 倍

Etched 公司宣布完成 1.2 亿美元(IT之家备注:当前约 8.73 亿元人民币) A 轮融资,将用于开发和销售全球首款 Transformer 专用集成电路(ASIC)芯片 Sohu。IT之家查询公开资料,Etched 公司由两名哈佛大学辍学生加文・乌伯蒂(Gavin Uberti)和克里斯・朱(Chris Zhu)创立,成立时间不到 2 年。Sohu 芯片最大的亮点在于直接把 Transformer 架构蚀刻到芯片中,乌伯蒂称 Sohu 采用台积电的 4 纳米工艺制造,推理性能大大优于 GPU 和其他通用
6/26/2024 11:31:40 AM
故渊

字节跳动与博通合作开发 AI 芯片?官方回应:该消息不实

感谢据新浪财经报道,今日有市场消息称,字节跳动将与美国芯片设计公司博通合作开发 AI 芯片。对此,字节跳动表示:该消息不实。今日早些时候,有报道称字节跳动正在与美国博通公司合作开发 AI 处理器,以确保有足够多的高端芯片。知情人士曾表示,这款 AI 处理器制程为 5nm,将由台积电制造。虽然设计工作进展顺利,但标志着设计阶段结束和制造开始的“流片”尚未开始。据悉,字节跳动和博通一直是业务合作伙伴,博通曾在声明中表示,字节跳动购买了其 Tomahawk 5nm 芯片以及其用于 AI 计算机集群的 Bailly 交换机
6/24/2024 5:41:04 PM
浩渺

消息称字节跳动与博通合作开发 AI 芯片:5nm 制程,台积电制造

感谢路透社报道,字节跳动正在与美国博通公司合作开发 AI 处理器,以确保有足够多的高端芯片。知情人士透露,这款 AI 处理器制程为 5nm,将由台积电制造。虽然设计工作进展顺利,但标志着设计阶段结束和制造开始的“流片”尚未开始。字节跳动和博通一直是业务合作伙伴,博通曾在声明中表示,字节跳动购买了其 Tomahawk 5nm 芯片以及其用于 AI 计算机集群的 Bailly 交换机。字节跳动与博通的合作将有助于大幅削减采购成本,并确保高端芯片的稳定供应。除抖音和 TikTok 外,字节跳动还运营一个类似 ChatGP
6/24/2024 12:47:20 PM
沛霖(实习)

挑战英伟达 AMD,背靠高通和富士康的初创公司耐能发布笔记本 NPU 新品

人工智能芯片初创公司耐能(Kneron)周三在 2024 台北国际电脑展推出了其下一代 AI 产品 —— KNEO 330 服务器和搭载第三代 NPU 芯片 KL830 的 PC 设备。据悉该公司由 CEO 刘峻诚和张懋中创立于 2015 年,是一家提供边缘运算人工智能(edge AI)技术的公司,其投资者主要包括李嘉诚旗下的维港投资、高通、鸿海集团、阿里巴巴创业者基金、中华开发资本等知名集团。耐能 CEO 刘峻诚在发布会上表示,目前使用生成式 AI 功能和应用的公司,云业务依赖于微软和亚马逊等巨头,并从英伟达或是
6/6/2024 11:35:57 PM
满河(实习)

英伟达优先向 X 供应 AI 芯片,特斯拉“靠边”?马斯克称后者芯片多到“吃灰”

感谢据 CNBC 援引英伟达高级员工内部邮件消息称,马斯克向股东“夸大”了特斯拉的芯片采购情况,还将原本计划留给特斯拉的大量 AI 芯片转移给 X(推特)平台。报道称,马斯克命令英伟达允许 X 公司“插队”,使其拥有高于特斯拉的优先性,从而使特斯拉收到价值超 5 亿美元(IT之家备注:当前约 36.25 亿元人民币)处理器的时间推迟了数月,或将导致特斯拉建立超级计算机进度延误。报道还提到了一份去年 12 月的英伟达备忘录,里面写道:“相比特斯拉,埃隆优先考虑在 X 上部署 H100 GPU 集群,将原定用于特斯拉的
6/5/2024 7:48:52 AM
清源

Gartner:2024 年全球 AI 芯片收入总额将达 712 亿美元,同比大增 33%

市场调查机构 Gartner 认为 2024 年全球 AI 芯片收入总额将达 712.52 亿美元(IT之家备注:当前约 5172.9 亿元人民币),同比增长 33%。图源 Pexels2024 年将成为 AI 芯片收入增长最为突出的一年。未来数年的增幅将有所下降,但仍将继续保持两位数的增长百分比。2025 年全球 AI 芯片收入总额有望达到 919.55 亿美元(当前约 6675.93 亿元人民币),在今年的基础上再增长约 29%。细分来看,今年来自计算电子产品领域的 AI 芯片收入将达到 334 亿美元,占到整
5/30/2024 2:46:32 PM
溯波(实习)

老黄官宣 GPU「年更」!利润暴涨 427%,股价创历史新高

【新智元导读】近期,英伟达发布了发布 2025 财年第一季度的财报,远远超出此前华尔街分析师们的「大胆预测」,随后的股票上涨和「一拆十」消息又引起了投资者们的狂欢。但老黄并没有因此停下脚步,在增加产能的同时还加快芯片迭代速度至每年更新,并计划将英伟达的市场份额扩展至更多领域。各路科技公司在 AI 模型的淘金潮中卷生卷死,结果还是卖「铲子」的英伟达赚翻了。5 月 23 日美股收盘后,英伟达发布 2025 财年第一季财报,披露出的数据增长简直到了「疯狂」的程度:收入从 72 亿美元狂飙至创纪录的 260 亿,同比增长
5/24/2024 11:48:49 PM
清源

亚马逊暂停订购英伟达 Hopper 芯片,投资者担心需求中断

北京时间 5 月 21 日晚间消息,据报道,亚马逊旗下云计算部门 AWS 已暂停订购英伟达最先进的“超级芯片”Grace Hopper,以等待功能更强大的新产品 Grace Blackwell(GH200)。此举正值投资者担心,英伟达将在两个产品周期之间出现需求下滑。今年 3 月,英伟达发布了名为 Blackwell 的新一代处理器,距离其前身 Hopper 开始向客户发货不到一年。英伟达 CEO 黄仁勋表示,新产品在训练大型语言模型方面的能力将提高一倍。Grace Hopper 于今年 8 月正式推出。AWS 也
5/21/2024 10:41:18 PM
-

光芯片能否代替电子芯片?破解 AI 「算力荒」

编辑 | ScienceAI摩尔定律的描述已经非常快了——计算机芯片每两年左右就会安装两倍数量的晶体管,从而在速度和效率上产生重大飞跃。但深度学习时代的计算需求增长速度更快——这种速度可能不可持续。论文链接:,2026 年人工智能消耗的电力将是 2023 年的 10 倍,而当年的数据中心消耗的能源将相当于日本一个国家一年的能源消耗。报告链接:「人工智能所需的[计算能力]每三个月就会翻一番,速度远远快于摩尔定律的预测。」 计算硬件公司 Lightmatter 的创始人兼首席执行官 Nick Harris 表示,「这会
5/21/2024 5:20:00 PM
ScienceAI