可调谐忆阻器的研发进展有助于人工神经网络更高效处理随时间变化的数据

bjylkjyxgs4个月前新闻资讯97
摘要:

在大脑中,计时是通过神经元完成的,神经元在接收到信号后会以不同的速率放松;现在,忆阻器--神经元的硬件类似物也能做到这一点。随着可调谐忆阻器的开发,人工神经网络很快就能更高效地处理随时间变化的数据。密歇根大学领导的一项研究详细介绍了这项技术,它可以大大降低人工智能的能耗。

41928_2024_1169_Fig1_HTML.png

人工神经网络也许很快就能更高效地处理随时间变化的信息,如音频和视频数据。密歇根大学领导的一项研究在今天的《自然-电子学》(Nature Electronics)杂志上报告了首个具有可调节"弛豫时间"的忆阻器。

忆阻器是一种将信息存储在电阻中的电子元件,与当今的图形处理单元相比,它可以将人工智能的能源需求降低约 90 倍。预计到 2027 年,人工智能的耗电量将占全球总耗电量的一半左右,而且随着越来越多的公司销售和使用人工智能工具,这一比例还有可能进一步上升。

"现在,人们对人工智能很感兴趣,但要处理更大、更有趣的数据,方法就是扩大网络规模。这效率并不高,"麻省理工大学詹姆斯-R-梅勒工程学教授 Wei Lu 说,他与麻省理工大学材料科学与工程学副教授 John Heron 是这项研究的共同通讯作者。

图形处理器的问题

问题在于,GPU 的运行方式与运行人工智能算法的人工神经网络截然不同--整个网络及其所有互动都必须从外部存储器中顺序加载,这既耗时又耗能。相比之下,忆阻器可以节省能源,因为它们模仿了人工神经网络和生物神经网络在没有外部存储器的情况下运行的主要方式。在某种程度上,忆阻器网络可以体现人工神经网络。

麻省理工学院材料科学与工程系应届博士毕业生 Sieun Chae 与麻省理工学院电气与计算机工程系应届博士毕业生 Sangmin Yoo 是这项研究的共同第一作者。

在生物神经网络中,计时是通过放松来实现的。每个神经元都会接收电信号并将其发送出去,但这并不能保证信号会向前推进。在神经元发送自己的信号之前,必须先达到接收信号的某个阈值,而且必须在一定时间内达到该阈值。如果时间过长,神经元就会随着电能的渗出而松弛。神经网络中具有不同松弛时间的神经元有助于我们理解事件的顺序。

41928_2024_1169_Fig2_HTML.png41928_2024_1169_Fig4_HTML.png

忆阻器如何工作

忆阻器的工作原理略有不同。改变的不是信号的存在与否,而是有多少电信号可以通过。接触到一个信号,忆阻器的电阻就会降低,从而允许更多的下一个信号通过。在忆阻器中,弛豫意味着随着时间的推移,电阻会再次上升。

Lu 的研究小组过去曾探索过在忆阻器中加入弛豫时间,但这并不是可以系统控制的。但现在,Lu 和 Heron 的团队已经证明,基础材料的变化可以提供不同的弛豫时间,从而使忆阻器网络能够模仿这种计时机制。

材料成分和测试

研究小组在超导体 YBCO(由钇、钡、碳和氧制成)的基础上构建了这些材料。YBCO在零下292华氏度的温度下没有电阻,但他们想要它的晶体结构。它引导着镁氧化物、钴氧化物、镍氧化物、铜氧化物和锌氧化物在忆阻器材料中的组织。

赫伦称这种熵稳定氧化物为"原子世界的厨房水槽"--添加的元素越多,它就越稳定。通过改变这些氧化物的比例,研究小组获得了 159 到 278 纳秒(即万亿分之一秒)的时间常数。他们构建的简单忆阻器网络学会了识别 0 到 9 数字的发音。一旦经过训练,它就能在音频输入完成之前识别出每个数字。

未来展望

这些忆阻器是通过能源密集型工艺制造的,因为研究小组需要完美的晶体来精确测量它们的特性,但他们预计,更简单的工艺也适用于大规模制造。

赫伦说:"到目前为止,这只是一个愿景,但我认为有一些途径可以使这些材料具有可扩展性,而且价格合理。这些材料是地球上丰富的资源,无毒、廉价,你几乎可以把它们喷洒在上面。"

编译来源:ScitechDaily

DOI: 10.1038/s41928-024-01169-1

相关文章

“幽灵鲨”自主驾驶潜水艇原型提前交付澳大利亚皇家海军

“幽灵鲨”自主驾驶潜水艇原型提前交付澳大利亚皇家海军

摘要:澳大利亚政府接收了第一艘"幽灵鲨"超大型自主潜水器(XL-AUV)原型,明年还将接收三艘,这一自动驾驶潜艇项目比原定计划提前了一年。 澳大利亚国防部门一直以落后著称,但印度...

来自海洋硅藻的新发现可能改写对全球碳循环的认识

来自海洋硅藻的新发现可能改写对全球碳循环的认识

摘要:加州大学圣地亚哥分校的研究发现,海洋硅藻(如Cylindrotheca closterium)将光合作用与直接碳消耗相结合,改变了以往对其碳摄入方式的看法。这种受细菌相互作用影响的双重策略可能会...

无声的尖叫:科学家认为部分青蛙可能有能力通过超声波进行跨物种交流

无声的尖叫:科学家认为部分青蛙可能有能力通过超声波进行跨物种交流

摘要:在南美洲,研究人员首次记录了巴西大西洋雨林特有的一种青蛙使用超声波的情况,还有一些青蛙可能会使用频率非常高的叫声。一项发表在《人种学》(Acta Ethologica)杂志上的研究首次记录了南美...

约翰霍普金斯大学的科学家们设计出能打破对称的合成细胞

约翰霍普金斯大学的科学家们设计出能打破对称的合成细胞

摘要:约翰斯-霍普金斯大学医学院的科学家们研制出了一种最小的合成细胞,它能够跟随外部化学信号,并表现出一种被称为"对称性破坏"的基本生物学概念。这项令人难以置信的创新旨在增进我们对...

国产量子计算用温度计刷新纪录:可测宇宙最低温度

国产量子计算用温度计刷新纪录:可测宇宙最低温度

摘要:量子计算是目前全球主要大国争相研发的重点,我国已是世界上第三个具备量子计算机整机交付能力的国家,国际量子计算研究领域处于领先地位。日前,国盾量子宣布自主研发了氧化钌温度计ezQ-RX56。 该...

太空观测揭示水坝如何保护利比亚班加西

太空观测揭示水坝如何保护利比亚班加西

摘要:一名宇航员从太空中捕捉到了利比亚班加西地区令人震撼的地理景观,展示了从生机勃勃的农田到荒芜的沙漠等对比鲜明的地貌。这幅图像突出了沿 Wadi al Qattarah 的水坝在洪水管理中的作用,这...