科学家创造Brain-Inspired超导电路

AZoM最近的采访中,我们跟杰夫Shainline NIST的博尔德有限公司,关于他的研究观察与突触形成超导电路的行为。

你能介绍你自己和你的专业背景吗?

我的名字是杰夫Shainline。我是一个物理学家国家标准与技术研究所(NIST)博尔德有限公司我训练设备的物理学家,最初主要光子设备上工作。在过去的十年中,我更多的进入电子和光子meet-optoelectronics的十字路口。特别是,我看到非凡的机会,超导电子、半导体电子、和光子学贡献独特的物理属性强大,异构系统。

有哪些关键的限制,当前计算机系统?

当前的计算机都是基于硅晶体管。晶体管可以做很多事情,但在现代计算机主要作为二进制开关,打开或关闭,0或1。这是数字计算的基础。如果您想要执行的操作是由二进制信息,硅微电子是非常成功的问题。做数学,存储大型数据集,执行长,逻辑procedures-these类型的任务由现有电脑表现很好。

我们现在的电脑也有一定的架构,独立于处理器的内存,所以计算和内存访问是独立的进程。有沟通联系的位置记忆存储和信息从内存的位置用于处理器。这被称为冯诺依曼体系结构,它可以追溯到1940年代。仍然是标准的,因为它是更简单,更便宜的制造单独处理器和内存芯片。

这两个方面的现代电脑基本二进制操作和冯·诺依曼建筑把优点和缺点。他们可以非常快,具有成本效益的,和多用途广泛的任务,可以合理地表示为二进制数字,特别是如果这些任务不需要一个亲密的内存和处理之间的相互作用。缺点是当这些条件不满足的感觉。如果信息不能很好地表示为二进制数字和/或如果计算的类型需要广泛的处理和内存之间的相互作用,其他计算设备和体系结构可以带来优势。

电路布局的超导光电神经元。波导实现光子信号超导探测器。半导体光源夫妇飙升事件输出波导。

例如,想象看自然风光,也许走在一片森林。可能会有亮区和暗区,许多不同的颜色,各种各样的形状和边缘。而不是将这些信息表示为一长串0和1来指定不同的数量不同的像素,这是更有效的表示这些信息与模拟信号,可以采取许多值在一定范围内。更有效率,它忽略了几乎所有的信息,和画关注某些方面,如不同的边缘和边界对象。而不是存储一个字节的信息,列出了像素的值在一个蓝色的大对象,更有效的注意,一切有天空,它是蓝色的。

当内存和处理相互交织,传统计算机可能不是最好的选择。我们的大脑做这个叫做联想记忆令人惊奇的事。如果你看到一个物体的一小部分或听到一个小片段的一个词或歌曲,你的大脑快速填充。当大脑开始过程最初的片段,访问内存,完成对象或歌曲。

负责处理和内存的物理结构不是单独的大脑中。这对学习非常重要,这是情报的一个关键方面。学习有效地部分是因为我们的大脑处理信息的参与,可以更新记忆。当内存和处理是分开的,就像冯诺依曼体系结构,通信链路,连接两个领域成为主要的系统的瓶颈。一个人必须不断地读和写,来回传送信息。大脑可以避免这种不分离的内存和计算。内存和计算设备是广泛分布在大脑的一个非凡的网络在更广泛的互联互通的网络配置比box-and-arrows配置。这使得信息处理、内存检索和书面和所有组件之间的通信进行迅速和有效率。

是什么让你想看为灵感在改善人类的大脑在这些限制吗?

我认为这是自然的大脑寻找灵感。这是坐在这里的每个人。实际上,我惊讶于数字计算机的大脑。我认为这是惊人的数字计算机能够执行广泛的,精确的数学计算比人类更快。同样令人惊讶的是,一个人可以很快看出来在一个场景或另一个人的脸,立刻就明白了到底是什么在一些更大的背景下,大量的细微差别。我认为最全面的智能机器将从这个频谱体现能力。然而,目前,我们有非常好的数字计算机基于硅微电子,和我们没有特别强烈的机器根据大脑计算的原则。所以有更多的事情要做。

如果我们观察大脑如何处理信息,试图吸收神经科学的教训,我们发现我们的计算系统必须在基本设备级别一直到系统架构级别。欧洲杯线上买球硅晶体管工具箱中一个至关重要的工具,但它们不应该用于一切。超导约瑟夫森结等组件,提供当我们试图执行的操作的突触,树突状细胞和神经元。同样,沟通在大脑的大型网络的规模更加可行和可伸缩灯使用时代替电信号。我是驱动的大脑寻找灵感,因为它是唯一已知的计算硬件可以实现一般智力,快速学习,认知功能,允许我们这么大的照片世界是什么以及如何相关。但在进一步观察这是如何做到的,-许多人则意识到有一个巨大的需求,因此机会添加额外的设备和物理机制,我们计算工具箱除了晶体管。

在过去,神经形态芯片的开发,使用类人脑软件。这些是什么和什么问题使你看起来进一步吗?

神经形态芯片存在频谱。一些芯片几乎相同的数字计算机在设备层面,仍然使用硅晶体管和二进制数字代表一切,只有离开传统处理器的体系结构和通信协议。这种方法的例子包括IBM的英特尔Loihi TrueNorth芯片和芯片。他们数字芯片,但memory-though仍然独立于处理器更广泛地分布在整个系统。这些芯片通信发送每个处理器的事件来很多人,更像大脑神经元从每个神经元与峰值发送成千上万的突触。所以一些神经形态芯片利用同一设备,硬件和制造基础设施作为传统的数字计算机,但是他们处理信息的方式是基于强化大脑的神经元和分布式体系结构。这是很明智的做法,因为你可以走了。所有的基础设施已经存在。

许多光电神经元和网络互连的多个平面波导。

在光谱的另一端,有神经形态芯片更进一步,使用硅晶体管作为模拟装置,把另一个页面从大脑的这本书。二进制,而是从晶体管开关信号,这些努力在所谓的“亚阈值”使用晶体管当前政权通过晶体管可以连续的电压值的函数。这可能导致戏剧性的节约能源。这里的问题是,通过晶体管电流的函数形式是指数,这意味着一个小变化在外加电压或一个小改变晶体管的制造带来很大改变在当前响应。

这给我的印象是一个次优的模拟计算原始的,因为它是非常困难许多这样的设备连接到电路工作在一起。实现一个神经元的树突树中的部分积累和过程信号从突触的神经细胞相很难与这些指数反应模拟装置。

几乎所有的神经形态的共享问题芯片目前神经元之间的通信。大脑中的神经元峰值时,它发送一个信号沿着所谓的轴突。这个轴突分支提供成千上万的突触的信息。信号能够保持其强度在整个轴突分支由于出色的,我们都是构造的自组装纳米技术。信号再生的传播,它可以这样做是因为神经元细胞外介质中嵌入,而不断地供应所需的charge-ions-to再生信号。是极其困难和积极效率来完成相同的壮举晶体管和铜导线。

如果一个神经元的输出信号是由一个晶体管,它是不可能的,晶体管源足够的电流来驱动一个长而分支铜线的电压将导致成千上万的接受者突触注册事件。所以,神经形态社会想出了一个巧妙的解决方法。神经元不直接,专用的下游的突触连接。相反,每个神经元只会让一个连接到通信网络中的一个节点。这个通信网络处理峰值之间发送所有神经元。

这种形式的沟通是更像比就像正在通过互联网发送数据包飙升神经元轴突在大脑中发送消息。这样的沟通方法现有神经形态系统的一个关键因素,因为如果你想使用的电路制作在现有硅微电子学的过程,没有其他选择。然而,问题是,这种共享通信基础设施合理的工作一定scale-maybe大约一百万个神经元(我们的大脑有860亿个神经元)——但除此之外,就会陷入困境。它花费的时间太长消息发送的神经元到达突触目的地,尤其是当许多其他神经元火密切。发送消息的延迟取决于交通网络上的。这是扩展现有神经形态系统的主要障碍,这是起点,导致我们的工作在光子飙升神经元之间的沟通。

示意图说明一个圆片规模光电网络。实现brain-scale系统,神经形态硬件需要密集集成网络组合多个晶片通过光纤互联。

重要的是要强调,没有现有神经形态芯片的缺点是由于错误的决定由人民发展这项技术。激增是完全合理的,使神经网络与现有的硬件基础设施,开发数字计算。这是完全合理的,试图使用晶体管作为模拟装置。不是工程师的错晶体管有指数响应函数模拟模式。这不是工程师的错,晶体管无法激活一千个突触。所有这些挑战和局限性是由于基本物理,不是可怜的判断。这就是我们正在努力的确带来额外的物理硬件用于brain-inspired计算。

你有网络,允许一个电路设计像一个突触。你能解释你是如何与单光子探测器能够实现这一目标?

是的,我们最初的目标是克服共享通信基础设施的局限性神经形态使用光子通信代替电通信芯片。光,一个神经元可以发送成千上万的突触活动,每个都有一个专门的连接,而不需要一个共享的通信基础设施。原则上,一个可以与更多的传统的光学链接,比如用于通过光纤发送服务器在数据中心之间的信息。问题是集成光源通常用于这类应用程序的电子设备,用于计算已经被证明是极其困难的,尽管大量资源被几十年的问题。这是因为光源通常基于半导体砷化镓等比Si原子间距不同,所以他们不能轻易地种植在相同的晶片。砷化镓光源是必需的,因为如果在室温下不发光。

另一个问题是与探测器接收光有关。很难设计光学链接需要不到一千光子不耗电的放大器。如果神经元需要给几千几千的光子突触在短暂的时间窗口,这是相当苛刻的光学链接。我们组在NIST开发这些基于超导单光子探测器设备。现在,而不是要求几千光子注册一个脉冲,我们能做的只有——单光子从神经元突触交流。

这是非常有趣的,但我们需要一种方法,这种光学检测事件可能导致电子信号,可以用于计算由突触,树突状细胞和神经元。我们对这个问题考虑了很多的方法,但是一旦我们开始处理电路设计,结合单光子探测器约瑟夫逊结,一切点击。约瑟夫逊结是一个电路元件基于两个超导电线薄绝缘层隔开。他们有美丽的属性和使用超导电子电路对于许多应用程序从粒子检测到电压标准。所有的神经形态功能我们需要坐在这里,可以利用。

这是一个很自然的选择结合超导单光子探测器约瑟夫逊结。我们设计的电路和制定了一系列实验我们想试一试。我们能够制造工作很快,因为我们的团队在NIST已经打单光子探测器过程,和我们的合作者(NIST)发现了约瑟夫逊结过程。我和同事赛义德汗想出了一个策略如何接口两个过程,我们第一次尝试工作。这是好。

单光子突触。超导单光子探测器集成纳米光子波导。探测器的输出耦合超导电路,执行计算操作类似于生物树突

突触的这种方法的关键因素之一是它工作在单光子水平。一旦你决定发送信号与光,你不能比一个光子发出微弱信号,这就意味着这是节能极限。这是非常重要的比例。但如果你想发送最节能的信息从一个神经元突触收件人,你仍然需要一种方法来改变突触的体重,这是信号的振幅产生的交流活动。因为你是只发送一个光子每个连接,信号的振幅不能设置到你发送的光量,即使它可能你不想这样做,因为它会击败单光子通信效率的好处。

突触的关键电路,使这个工作我们可以改变突触的重量在电域利用约瑟夫森结电路。一个光子,罢工探测器,驱动电流变成一个约瑟夫森结。然后,当前生成的数量在另一边的结结是由当前的偏见。电流偏置基本上是电气传动线。所以调整电气参数控制photon-detection事件产生的电流是多少,这代表了突触的重量。这就是探测器和约瑟夫森结一起工作得很好。

提到另一个方面是,这些探测器和基于超导约瑟夫森结,所以他们必须在低温下操作4开尔文。这是比量子计算机温暖200倍,但仍需要专门的系统来保持设备冷。这增加了系统的复杂性,但是它也可以带来巨大的好处。我之前提到的,它已被证明极具挑战性的集成光源与硅电子从硅在室温下不发光。然而,当我们在低温下工作,硅发光,所以进展的一个主要障碍在光电系统缺乏一个硅光来源是克服当我们拥抱在低温超导和工作。因为我们有单光子探测器在每个突触,硅光源非常微弱,还能完成工作。这是一个巨大的优势系统比例大于低温操作的不便。

如何与过去相比,这一技术的标准和当前系统?

我们的神经形态计算方法非常不同于当前标准系统原因有很多。正如我强调的,我们使用通信光神经计算和超导体的主要部分。绝大多数的当前系统使用半导体电子产品的。我们仍然使用半导体界面我们对光源的超导神经元当一个神经元受到刺激时飙升,但高速、节能模拟计算是由超导电路形成突触,树突状细胞和神经元。超导电路是更自然的装备来执行这些功能,和他们做了那么多比半导体同行更快和更少的能量。

大神经形态的超级计算机结合许多晶片密集的超导光电子集成电路。

还有其他努力使用光电通信在神经系统中,但他们通常尝试使用光的一些计算除了沟通。例如,大多数其他努力使用光沟通尝试建立突触权重基于光信号的振幅。这是非常昂贵的从能源的角度来看,因为光比电需要更多的能量来产生signals-especially相比超导电子信号。我不知道任何其他团队利用光与超导体电子产品。其他团队在神经系统是使用光进行交流沟通,据我所知,所有试图在室温下工作,正如我上面所说的,这意味着他们有一个严重的挑战与电子电路集成光源,和他们的探测器每个突触需要成千上万的光子事件。就好了在室温下工作,但当所有的因素都考虑在内,它实际上看起来比在低温时更加困难。这只变得明显当你觉得在大型系统的规模。

还有一个社区与低温工作很好,但是他们不想要处理光学系统。这些人正试图充分强化神经网络单独使用超导电路。这是一个有价值的目标,并正在取得巨大的进步。但是我们保持与光电系统的课程,因为我们所有的分析表明,扩展性能的通信基础设施建立在超导电子本身就会远远落后于大规模系统的光学互连结构。就像在半导体的情况下,这种通信成为主要的瓶颈,限制了神经系统硬件的规模可以实现。

所以我们的方法的独特之处在于,我们结合半导体、超导体、光子学充分利用他们提供的每个物理属性。我们有非常密切地看着我们如何继续留下任何一个腿的这三条腿的凳子上,我们总结系统存在。是的,它是更复杂的制造晶片的所有三个物理属性共同努力,但无数的性能优势。我们勇敢的一群人,我们走。

这个技术革新应用可以什么?

1943年,托马斯·沃森,IBM的总裁说,“我认为有一个世界市场也许五台电脑。“估计是不正确的,我们现在知道,电脑随处可见做一切。也许有人会说,因为我们的系统需要低温冷却应用空间将是有限的。这是真的:超导光电硬件将不会在你的电话。但是我们的系统以大致相同的体积的空间为空调和使用更少的电力,和空调在世界各地的许多家庭。这是完全可行的,这些系统将成为集成到日常生活的许多方面,因为他们会更聪明,比任何其他的方式追求同样的计算。

我们的团队目前专注于视频处理的应用,在飙升的时序动态神经元带来效率和速度的利益。主要互联网公司必须分析每天数以百万计的视频上传的内容,这样做已经不可持续的成本和当前技术的能量和时间。我们的网络将会做得更好。

除此之外还将彻底改变了许多应用程序。这些包括医学和个性化医疗模式;保险定价和风险评估;物流,如与包裹递送相关路由问题;高速信号处理5 g和6 g网络;和神经科学,这种先欧洲杯线上买球进的技术可以帮助我们更好的测试假设相关的功能我们自己的思想。

在更遥远的将来,这项技术的主要力量是它可以继续扩大网络有更多的比我们自己的大脑神经元和突触同时操作四分之一快几百万倍。它将需要很长时间,但是我们发现人工智能与智能应用程序将远远超过我们自己的?“应用程序”可以是错误的词当我们遥遥领先。

什么限制之前必须克服这个技术可以扩大吗?接下来的步骤是什么?

目前我们演示了所有组件的硬件,但我们没有意识到完整的制造过程和所有组件集成在一个单一的晶片。这是我们现在关注的主要挑战。我们的团队在NIST很小,所以这是一项重大的任务。扩大,这个项目需要过渡到行业。下一步将会失去创业,得到投资者的兴趣,和我们的团队成长,但这也许是另一次的对话…

什么是最重要的或令人兴奋的研究的一部分吗?

当我们深入这些系统保持这种方法发现更多的原因是如此强大。我们所有的理论分析表明,系统的巨大规模,复杂性,和速度是可以实现的。意识到他们将是一个非凡的技术成就,但这将是可行的和合理的投资水平,和对社会的好处是巨大的。是非常令人兴奋的工作有这样的潜力和与团队合作,继续得到更多的充满激情的计划一样,我们看到我们的实验成功。

但“令人兴奋的”和“重大”是两个不同的东西。本研究最重要的部分是如何延伸到未来,可能改变不仅与电脑AI但我们所做的大部分。

甚至超越它看起来几乎完全身体上可能和可行的构造人工认知系统的规模和复杂性大大超越我们自己的大脑在操作大大快时间尺度。如果正确,这将改变我们所说的智慧,它将改变我们的概念作为地球上最聪明的生物,它会改变我们的对话在地球上我们所做的。

这将是一个重大的事件。

读者在哪里可以找到更多的信息?

我们的网站可以找到http://www.soen.ai。

从AZoM - Papertronics:一次性电子在一张纸上

关于杰夫Shainline

我目前与美国国家标准与技术研究所的领袖,我的角色是物理学和情报项目硬件。加入了NIST之前,我曾与一个伟大的团队展示光学数字计算机的处理器和内存之间的通信。工作描述在这里。职业生涯早期强调执行的想法用光线通信的计算机将有价值的和实用的。我搬到NIST之后,我开始使用我目前集团超导单光子探测器的很大一部分我们做什么。我最初的目标是开发基于光子量子信息处理集成系统,但我很快就相信我们开发的硬件是更好的匹配神经形态计算的一个新的实现。我们阐述了底层概念2017年的论文和精致的细节2019年的论文。是一个关键里程碑示范光学通信链路的单光子水平,结合硅光源与超导单光子探测器。因为它是基于硅光源,给了我们信心,我们的超导单光子神经形态计算方法能够扩展到非常大的系统。最近,我们下一个元素添加到我们的突触:最重要的超导约瑟夫森结,元素。通过结合约瑟夫森结与单光子探测器,我们可以演示突触和树突的关键处理功能,包括突触权重在电子领域中,颞集成和跨广泛的时间表的记忆力。现在我们已经演示了关键组件,我们可以构建系统,解决问题,给世界带来价值。