AI芯片业的挑战亦是企业智能化转型的降本增效时机

「机器之心2021-2022年度AI趋势大咖说」聚焦「驱动未来的AI手艺」与「重塑产业的AI科技」,推出线上分享,共邀请近40位AI领域知名学者、产业专家及企业高管通过主题分享及多人圆桌等形式,与行业精英、读者、观众共同回顾 2021年中的重要手艺和学术热点,盘点AI产业的年度研究方向以及重大科技突破,展望2022年度AI手艺发展方向、AI手艺与产业科技融合趋势。

本文为墨芯人工智能创始人暨CEO王维于「重塑产业的AI科技」系列主题,「企业数字化转型」专场的分享内容节选。点击进入「机器之心Pro」,查看更多优质内容。

AI芯片业的挑战亦是企业智能化转型的降本增效时机

在AI2.0时代,王维表示,其方向在于硬件、软件和算法的协同设计、协同翻新,比如说翻新的数据类型、稠密化等翻新手艺。

王维介绍道,翻新的数据类型是指,在传统的CPU、GPU估计中,使用的大多为浮点64位、32位的双精度、单精度类型等,但其实对于AI估计来说,并不需要这么高精度的数值,可以是浮点的16位,甚至是整形的8位和14位等。因此,我们需要在新的处理器、AI处理器上引入新的数据类型。

AI芯片业的挑战亦是企业智能化转型的降本增效时机

而稠密化是所有AI算法一个具有潜力和空间的发展方向。总体来说,大家的共识是未来的算法的颠覆性连系硬件的翻新将决定了AI的走向和命运。王维在介绍稠密化对于AI估计或AI模型带来的效果和意义时,引入了谷歌和Deepmind的一篇很著名的论文。

AI芯片业的挑战亦是企业智能化转型的降本增效时机

如上图所示,横轴是每一个模型估计量,纵轴是精度,使用EfficientNets作为一个benchmark的模型,可以看到在EfficientNets越来越深,加大模型的情况下,估计量和精度均增加。通过稠密化手艺对模型进行优化后,在相同的精度上,可以把估计量降低一个数量级,如果是在相同的估计量情况下,稠密化手艺可以将精度晋升几个百分点。因此,稠密化手艺其实是帮助AI朝更高效、更高精度发展的一个十分有潜力的算法的翻新。

谈到稠密化手艺在芯片架构上的意义,王维使用下图解释,图中代表一个没有被稠密化的稠密的神经网络,点代表每一个激活层,连线代表训练出来的模型每一层之间的连贯瓜葛。在估计中去估计神经网络的过程,根本上是用两个矩阵来进行一些线性的运算,左边的矩阵代表了神经元层,右边的矩阵代表它的连贯层,两个矩阵经过线性运算以及非线性的处理后,得出了下一层的神经网络。以此类推,不断迭代重复,去完成一个十分深的估计,这个过程中的估计量是十分大的。

AI芯片业的挑战亦是企业智能化转型的降本增效时机

王维介绍道,在这个估计的空间中,其实很多的神经元是不需要被激活的,而且很多神经元之间的连贯瓜葛是十分弱的连贯瓜葛,甚至这个连贯瓜葛是可以趋于零的。这也就意味着在这些矩阵中,存在着十分多的优化空间。因此,通过稠密化手艺,在估计这种巨型的矩阵的时,我们只需要把它的非零的元素,以及它在矩阵空间的位置存储在一个更小的存储空间里面,而后利用更小的估计单元来完成同样的事情。简而言之,就是说做同样一件任务,但将估计量降低到两个数量级,从而提高估计的效率与速度。王维表示,这就是为什么我们需要通过软件在稠密化算法上的翻新,连系硬件架构的细化架构来晋升我们的算力。

王维表示,墨芯科技将稠密化手艺应用于ANTOUM芯片中,这是业界第一个支持高达32倍稠密率的神经网络的估计平台,也是业界唯一一颗支持双稠密达到32倍的稠密率的芯片。同时软硬件连系的吸收估计方式,使得墨芯科技单芯片的算力,相较于目前业界的旗舰产品,从ResNet这些网络来说,等效算力可以晋升五到十倍。并且芯片的功耗是GPU的一半不到,但对于单一个网络的这个运算效率,能效晋升了10倍到20倍。目前,墨芯科技注重软硬连系,从算法的翻新角度出发,设计一整套编译器和硬件架构,已实现90+个AI算子,已编译通过200+个AI算法模型,将来会帮助客户无缝的、简单的去部署和实时估计。

AI芯片业的挑战亦是企业智能化转型的降本增效时机

 最后,王维总结道,墨芯科技致力于AI估计,这是一个十分前沿的手艺,充满挑战的同时,未来也有着无穷的时机和空间,AI正像电力一样,在渗入和改变每一个行业和领域。墨芯科技将本着以人为本、科技向善的理念,为我们、我们下一代开拓更多的时机和可能性。

AI芯片业的挑战亦是企业智能化转型的降本增效时机

给TA打赏
共{{data.count}}人
人已打赏
AI

技能破局?畅谈元宇宙大浪下的AI技能流实践机遇与应战

2022-7-26 15:45:00

AI

Creator 面对面 | 大规模预训练模型的新思考:效用和泛化

2022-7-26 15:55:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索