AI芯片业的挑战亦是企业智能化转型的降本增效机会

「机器之心2021-2022年度AI趋势大咖说」聚焦「驱动未来的AI技能」与「重塑产业的AI科技」,推出线上分享,共邀请近40位AI领域知名学者、产业专家及企业高管通过主题分享及多人圆桌等形式,与行业精英、读者、观众共同回顾 2021年中的重要技能和学术热点,盘点AI产业的年度研究方向以及重大科技突破,展望2022年度AI技能发展方向、AI技能与产业科技融合趋势。

本文为墨芯人工智能创始人暨CEO王维于「重塑产业的AI科技」系列主题,「企业数字化转型」专场的分享内容节选。点击进入「机器之心Pro」,查看更多优质内容。

AI芯片业的挑战亦是企业智能化转型的降本增效机会

在AI2.0时代,王维表示,其方向在于硬件、软件和算法的协同设计、协同翻新,比如说翻新的数据类型、希罕化等翻新技能。

王维介绍道,翻新的数据类型是指,在传统的CPU、GPU较量争论中,使用的大多为浮点64位、32位的双精度、单精度类型等,但其实对于AI较量争论来说,并不需要这么高精度的数值,可以是浮点的16位,甚至是整形的8位和14位等。因此,我们需要在新的处理器、AI处理器上引入新的数据类型。

图片

而希罕化是所有AI算法一个具有潜力和空间的发展方向。总体来说,大家的共识是未来的算法的颠覆性分离硬件的翻新将决定了AI的走向和命运。王维在介绍希罕化对于AI较量争论或AI模型带来的效果和意义时,引入了谷歌和Deepmind的一篇很著名的论文。

图片

如上图所示,横轴是每一个模型较量争论量,纵轴是精度,使用EfficientNets作为一个benchmark的模型,可以看到在EfficientNets越来越深,加大模型的情况下,较量争论量和精度均增加。通过希罕化技能对模型进行优化后,在相同的精度上,可以把较量争论量降低一个数量级,如果是在相同的较量争论量情况下,希罕化技能可以将精度提拔几个百分点。因此,希罕化技能其实是帮助AI朝更高效、更高精度发展的一个异常有潜力的算法的翻新。

谈到希罕化技能在芯片架构上的意义,王维使用下图解释,图中代表一个没有被希罕化的稠密的神经网络,点代表每一个激活层,连线代表训练出来的模型每一层之间的不断瓜葛。在较量争论中去较量争论神经网络的过程,根本上是用两个矩阵来进行一些线性的运算,左边的矩阵代表了神经元层,右边的矩阵代表它的不断层,两个矩阵经过线性运算以及非线性的处理后,得出了下一层的神经网络。以此类推,不断迭代重复,去完成一个异常深的较量争论,这个过程中的较量争论量是异常大的。

图片

王维介绍道,在这个较量争论的空间中,其实很多的神经元是不需要被激活的,而且很多神经元之间的不断瓜葛是异常弱的不断瓜葛,甚至这个不断瓜葛是可以趋于零的。这也就意味着在这些矩阵中,存在着异常多的优化空间。因此,通过希罕化技能,在较量争论这种巨型的矩阵的时,我们只需要把它的非零的元素,以及它在矩阵空间的位置存储在一个更小的存储空间里面,而后利用更小的较量争论单元来完成同样的事情。简而言之,就是说做同样一件任务,但将较量争论量降低到两个数量级,从而提高较量争论的效率与速度。王维表示,这就是为什么我们需要通过软件在希罕化算法上的翻新,分离硬件架构的细化架构来提拔我们的算力。

王维表示,墨芯科技将希罕化技能应用于ANTOUM芯片中,这是业界第一个支持高达32倍希罕率的神经网络的较量争论平台,也是业界唯一一颗支持双希罕达到32倍的希罕率的芯片。同时软硬件分离的吸收较量争论方式,使得墨芯科技单芯片的算力,相较于目前业界的旗舰产品,从ResNet这些网络来说,等效算力可以提拔五到十倍。并且芯片的功耗是GPU的一半不到,但对于单一个网络的这个运算效率,能效提拔了10倍到20倍。目前,墨芯科技注重软硬分离,从算法的翻新角度出发,设计一整套编译器和硬件架构,已实现90+个AI算子,已编译通过200+个AI算法模型,将来会帮助客户无缝的、简单的去部署和实时较量争论。

图片

 最后,王维总结道,墨芯科技致力于AI较量争论,这是一个异常前沿的技能,充满挑战的同时,未来也有着无穷的机会和空间,AI正像电力一样,在渗入和改变每一个行业和领域。墨芯科技将本着以人为本、科技向善的理念,为我们、我们下一代开拓更多的机会和可能性。

AI芯片业的挑战亦是企业智能化转型的降本增效机会

原创文章,作者:机器之心Pro发布,如若转载,请注明出处:https://www.iaiol.com/news/ai-xin-pian-ye-de-tiao-zhan-yi-shi-qi-ye-zhi-neng-hua-zhuan/

(0)
上一篇 2022年 7月 26日 下午3:45
下一篇 2022年 7月 26日 下午3:55

相关推荐

  • 火了一整年的多模态进修,在工业界的落地和实践进展到底怎么样了?

    在小红书,看见多模态进修的无限可能。

    2022年 11月 23日
  • 机械之心升级「SOTA!模型」资本站,万余模型覆盖千余AI任务

    机械之心于2022年第一季度推出新版「SOTA 模型」资本站。作为专注办事中国开发者的第三方平台,该站点在对每日学界、业界最新的SOTA工作进行追踪的同时,汇总了原作团队、社区用户所放出的模型文件、实现代码、数据集等开发资本,协助用户快速上手测验考试新技能。当前新版 「SOTA!模型」已收录超过15000个模型资本,覆盖超过1000个AI任务。用户可通过「检索模型」功能鉴于模型资本所适配的硬件类型、计算平台、框架及模型规模等维度高效查询。作为专业的人工智能信息平台,机械之心于2019年9月发布了首版「SOTA 模型」项

    2022年 8月 5日
  • 阿里数据中台底座的12年建造实践

    文/阿里云智能计较平台事业部研究员 关涛阿里巴巴数据平台发展的四大阶段建立数据中台,一个强大的数据平台作为底座必不可少。 阿里巴巴数据平台发展的四个阶段,一定程度上其实也是阿里巴巴数据中台发展的四个阶段。这四个阶段里,你可以看到阿里巴巴对自身数据的商业价值的萃取,对原有分而治之的数据系统的聚合,对计较数据财产化和数据高效应用的新思路以及对数据平台处置过程中面临的组织变革等。阶段一:交易百花齐放,发现数据价值2009年到2012年,阿里巴巴电商交易进入爆发期,涌现出非常多有名的交易团队,比如淘宝、

    2021年 9月 29日
  • 普林斯顿连续12年榜首、哥大因造假风波暴跌16位,2023 US News美国大学排名公布

    一年一度的 US News 美国大学排名出炉了!

    2022年 9月 13日
  • 申请CS博士学位前,布朗大学Jeff Huang团队这份师资、排名和奖学金统计值得参考

    这是一份申请 CS 博士学位前可以认真参考的统计资料。

    2022年 5月 9日
  • 百分点大数据技术团队:ClickHouse国家级项目机能优化实际

    编者按ClickHouse自从2016年开源以来便备受关注,主要应用于数据分析(OLAP)领域,各个大厂纷纷跟进大规模利用。百分点科技在某国家级项目建设中完成了多数据中心的ClickHouse集群建设,日增千亿数据量,在此基础上举行优化与机能调优,能够更好地解决部署规模扩大和数据量扩容等问题。本文结合项目的数据规模及交易场景,重点介绍了百分点大数据技术团队在ClickHouse国家级项目建设中的机能优化实际。一、概览2020年4月,百分点大数据技术团队结合某国家级多数据中心的Clickhouse集群建设,发表了&l

    2021年 7月 22日
  • 时隔27年,微软IE浏览器正式退出历史舞台,一个时期的开始

    很遗憾「目睹」IE 浏览器退出历史舞台。

    2022年 6月 16日
  • 新石器无人车获得海内首批无人配送车上路天分

    2021年5月25日,北京高级别主动驾驭示范区发布无人配送车管理政策,新石器无人车作为首批无人配送车头部企业获得海内首批无人配送车上路天分。预计到今年6月底,超过150辆新石器无人车作为离用户最近的无人驾驭便利店,将在海内首个智能网联汽车政策先行区内构建无人车服务网络,常态化供应便民服务。新石器无人车作为新形态道路交通参与者,在零卖、安防和金融等众多领域有着广泛的应用场景。在“上路”(公开道路行驶)前,新石器无人车早已在亦城国际、BDA企业大道、北京亦庄生物医药园等多个园区,面向&ldquo

    2021年 5月 26日
  • 超越全系列YOLO、Anchor-free+技巧组合,旷视开源本能更强的YOLOX

    在本文中,来自旷视的研究者提出高本能检测器 YOLOX,并对 YOLO 系列进行了经验性改进,将 Anchor-free、数据加强等方针检测领域先进技术引入 YOLO。获得了超越 YOLOv3、YOLOv4 和 YOLOv5 的 AP,而且取得了极具竞争力的推理速率。随着方针检测技术的发展,YOLO 系列始终追寻可以实时应用的最佳速率和准确率权衡。学界人士不断提取当时最先进的检测技术(如 YOLOv2 的 anchor、YOLOv3 的残差网络),并对这些检测技术进行优化以兑现最佳本能。目前,YOLOv5 在速率和

    2021年 7月 22日
  • 新的量子算法破解了非线性方程,计算机能否代替人类成为「先知」?

    曾经我们以为,无论计算机有多么强大,都不足以预测未来。现在这个想法很可能要被推翻了:计算机可能比人类更擅长成为「先知」。

    2021年 1月 12日

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注