迈向模仿人脑的光电芯片:对一位热衷于改进 SNN 的 NIST 研讨人员的采访

cIEEE Spectrum 近来与美国国家标准与技术研讨院(NIST)的物理学家 Jeffrey Shainline 举行了交谈,他的工作可能会对这个问题有所启发。Shainline 在研讨一种可以为高级形式的人工智能提供支持的计算方法——所谓的脉冲神经网络(spiking neural networks,SNN),与现在广泛部署的人工神经网络相比,它更接近地模仿大脑的工作方式。今天,主流的模式是利用在数字计算机上运行的软件来创建具有多层神经元的人工神经网络。这些「深度」人工神经网络已被证明非常成功,但它们必要

迈向模仿人脑的光电芯片:对一位热衷于改进 SNN 的 NIST 研讨人员的采访

cIEEE Spectrum 近来与美国国家标准与技术研讨院(NIST)的物理学家 Jeffrey Shainline 举行了交谈,他的工作可能会对这个问题有所启发。

Shainline 在研讨一种可以为高级形式的人工智能提供支持的计算方法——所谓的脉冲神经网络(spiking neural networks,SNN),与现在广泛部署的人工神经网络相比,它更接近地模仿大脑的工作方式。今天,主流的模式是利用在数字计算机上运行的软件来创建具有多层神经元的人工神经网络。这些「深度」人工神经网络已被证明非常成功,但它们必要大量的计算资源和能量才能运行。这些能源需求在迅速增长:尤其是训练深度神经网络所涉及的计算变得不可持续。

迈向模仿人脑的光电芯片:对一位热衷于改进 SNN 的 NIST 研讨人员的采访

Jeffrey Shainline

长期以来,研讨人员一直对创造更能反映生物神经元网络的人工神经网络的前景感到好奇。当一个神经元接受来自多个其他神经元的旌旗灯号时,它可能会达到激活阈值水平,从而导致它 「放电」,这意味着它产生一个输出旌旗灯号脉冲,发送到其他神经元,可能会诱导其中一些神经元也被激发。

「与半导体相比,你可以在一个晶片上安装更多的神经元和突触,因为你可以在三维中重叠。你可能有 10 层,这是一个很大的优势。」

——Jeffrey Shainline,NIST

一些公司已经生产出用于实现电子脉冲神经网络的芯片。Shainline 的研讨重点是在此类网络中利用超导光电元件。他的工作近来从研讨理论可能性发展到举行硬件实验。他向 Spectrum 介绍了他实验室的这些最新进展。

多年来,我一直从 IBM 和其他公司听到有关神经形态处理芯片的消息,但我没有感觉到它们在实际世界中获得了吸引力。我错了吗?

Jeffrey Shainline:好问题:脉冲神经网络——它们有什么用?

IBM 2014 年推出的 True North 芯片引起了轰动,因为它新颖、与众不同且令人兴奋。近来,英特尔在 Loihi 芯片上做了很多伟大的事情。英特尔现在有了它的第二代。但这些芯片是否能解决实际问题仍然是一个大问题。

迈向模仿人脑的光电芯片:对一位热衷于改进 SNN 的 NIST 研讨人员的采访

我们知道,生物大脑可以做数字计算机无法比拟的事情。然而,这些脉冲神经形态芯片并没有立即让我们大吃一惊。为什么不?我认为这不是一个容易回答的问题。

我要指出的一件事是,其中一个芯片没有 100 亿个神经元(大约是人脑中神经元的数量)。即使是果蝇的大脑也有大约 150,000 个神经元。英特尔最新的 Loihi 芯片连这个都没有。

知道他们在为如何利用这款芯片而苦苦挣扎,英特尔的人们做了一些聪明的事情:他们为学者和初创公司提供了廉价访问他们的芯片的机会——在很多情况下是免费的。他们在众包创意,希望有人能找到一款杀手级应用。

你猜第一个杀手级应用会是什么?

Shainline:也许是一个智能音箱,一个音箱必要一直在等待你说出一些关键词或短语。这通常必要很大的功率。但研讨表明,运行在一个简单芯片上的非常简单的脉冲神经算法可以在几乎不消耗电力的情况下做到这一点。

告诉我你和你的 NIST 同事在研讨的光电设备,以及它们如何改进 SNN?

Shainline:首先,你必要了解光将是你在脉冲神经系统中的神经元之间举行交流的最佳方式。那是因为没有什么比光快。因此,利用光举行通讯将使你拥有最大的 SNN。

但仅仅快速发送旌旗灯号是不够的。你还必要以节能的方式举行操作。因此,一旦你选择以光的形式发送旌旗灯号,你可以实现的最佳能量效率是,如果你只将一个光子从一个神经元发送到它的每个突触连接。你不能减少光量。

我们在研讨的超导探测器在探测单光子光方面是最好的——就它们耗散的能量和运行速度而言是最好的。

不过,你也可以建立一个 SNN,利用室温半导体来发送和接收光旌旗灯号。现在,哪种策略最好还不清楚。但是因为我有偏见,让我分享一些追求超导方法的理由。

诚然,利用超导元件会产生大量开销——你必须在高温环境中建立所有东西,以便你的设备保持足够冷以举行超导。但是一旦你这样做了,你可以很容易地添加另一个关键元素:一个叫做约瑟夫森结(Josephson junction)的东西。

迈向模仿人脑的光电芯片:对一位热衷于改进 SNN 的 NIST 研讨人员的采访

Josephson junction(来源:Baidu)

约瑟夫森结是超导计算硬件的关键组成部分,无论它们是用于量子计算机中的超导量子位、超导数字逻辑门还是超导神经元。

一旦你决定利用光举行通讯并利用超导单光子探测器来感应光,你就必须在高温环境中建立你的计算机。因此,无需更多开销,你现在就可以利用约瑟夫森结。

这带来了一个不太明显的好处:事实证明,在三个维度上集成约瑟夫森结比在三个维度上集成 [MOSFET——金属氧化物半导体场效应晶体管] 更容易。那是因为对于半导体,你在硅晶片的下平面上制造 MOSFET。然后你把所有的布线层都放在上面。利用标准处理技术在其上放置另一层 MOSFET 基本上是不可能的。

相比之下,在多个平面上制造约瑟夫森结并不难。两个不同的研讨小组已经证明了这一点。我们一直在谈论的单光子探测器也是如此。

当你考虑到必要什么才能让这些网络扩展成类似于复杂的大脑的东西时,这是一个关键的好处。与半导体相比,你可以在一个晶片上安装更多的神经元和突触,因为你可以在三维中重叠。你可能有 10 层,这是一个很大的优势。

这种计算方法的理论意义令人印象深刻。但是你和你的同事实际建立了什么样的硬件?

Shainline:我们近来最激动人心的成果之一是超导单光子探测器与约瑟夫森结的集成。我们所能做的是接收单光子光,并利用它来切换约瑟夫森结并产生电旌旗灯号,然后将来自许多光子脉冲的旌旗灯号整合。

我们近来在我们的实验室展示了这项技术。我们还制造了可在高温下工作的芯片光源。我们也花了很多时间研讨在芯片上传输光旌旗灯号所需的波导。

我提到了利用这种计算技术可以实现的 3D 集成——重叠。但是,如果你要让每个神经元与数千个其他神经元通讯,你还必要某种方式让光旌旗灯号从一层的波导传输到另一层的波导,而不会造成损失。我们已经证明了这些波导的重叠平面多达三个,并相信我们可以将其扩展到 10 层左右。

当你说「集成」时,你的意思是你已经将这些组件连接在一起,还是你将所有东西都放在一个芯片上?

Shainline:我们确实将超导单光子探测器与约瑟夫森结结合在一个芯片上。该芯片安装在一个小型印刷电路板上,我们将其放入高温恒温器中以保持足够冷以保持超导性。我们利用光纤举行从室温到高温的通讯。

为什么你如此热衷于采用这种方法,为什么其他人不这样做?

Shainline:关于为什么这种神经形态计算方法可能会改变游戏规则,有一些非常有力的理论论据。但这必要跨学科的思考和合作,而现在,我们确实是唯一一个专门做这件事的团队。

如果有更多的人参与进来,我会喜欢的。作为一名研讨人员,我的目标不是成为第一个做所有这些事情的人。如果来自不同背景的研讨人员为这项技术的发展做出贡献,我将非常高兴!

参考内容:https://spectrum.ieee.org/ai-hardware

给TA打赏
共{{data.count}}人
人已打赏
AI

得州、佛州也对「终生老师」轨制下手了,每年评绩效,有大学准备捡漏

2022-4-23 13:03:00

AI

AI可注释性及其在蚂蚁平安范围的运用简介

2022-4-24 18:03:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
今日签到
有新私信 私信列表
搜索