人工神经网络可能很快就能更有效地处理时间相关的信息,例如音频和视频数据。今天,《自然电子学》杂志报道了第一款可调节“松弛时间”的忆阻器,这是密歇根大学领导的一项研究成果。
忆阻器是一种在电阻中存储信息的电子元件,与当今的图形处理单元相比,它可以将人工智能的能源需求减少约90倍。预计到2027年,人工智能将占全球总电力消耗的0.5%左右,而且随着越来越多的公司销售和使用人工智能工具,这一数字还有可能激增。
“目前,人们对人工智能很感兴趣,但要处理更大、更有趣的数据,方法是增加网络规模。这不是很有效。”密歇根大学詹姆斯·R·梅勒 (James R. Mellor) 工程教授卢伟 (Wei Lu) 说,该研究的共同通讯作者是密歇根大学材料科学与工程系副教授John Heron。
问题在于GPU的运行方式与运行AI算法的人工神经网络非常不同——整个网络及其所有交互都必须从外部存储器按顺序加载,这既消耗时间又消耗能源。相比之下,忆阻器可以节省能源,因为它们模仿了人工神经网络和生物神经网络在没有外部存储器的情况下运行的方式的关键方面。忆阻器网络在一定程度上可以体现人工神经网络。
最近获得密歇根大学博士学位的Sieun Chae说道,“我们预计,在不改变时间常数的情况下,我们全新的材料系统可以将人工智能芯片的能源效率比最先进的材料提高六倍。”
在生物神经网络中,计时是通过放松来实现的。每个神经元都会接收电信号并将其发送出去,但这并不能保证信号会继续前进。在神经元发送自己的信号之前,必须达到输入信号的某个阈值,并且必须在一定的时间内满足该阈值。如果时间过长,神经元就会放松,因为电能会从神经元中渗出。神经网络中具有不同松弛时间的神经元有助于我们理解事件的序列。
忆阻器的工作原理略有不同。改变的不是信号是否存在,而是有多少电信号通过。接触信号会降低忆阻器的电阻,从而允许更多的下一个信号通过。在忆阻器中,松弛意味着电阻会随着时间的推移再次上升。
虽然Lu的团队过去曾探索过在忆阻器中构建弛豫时间,但这并不是可以系统地控制的东西。但现在,Lu和Heron的团队已经证明,基础材料的变化可以提供不同的弛豫时间,从而使忆阻器网络能够模仿这种计时机制。
该团队在超导体YBCO上构建了由钇、钡、碳和氧制成的材料。它在低于-292华氏度的温度下没有电阻,但他们想要它是因为它的晶体结构。它指导忆阻器材料中镁、钴、镍、铜和锌氧化物的组织。
Heron称这种氧化物为“原子世界的厨房水槽”,即熵稳定氧化物——添加的元素越多,它就越稳定。通过改变这些氧化物的比例,该团队实现了从159到 278纳秒(即万亿分之一秒)的时间常数。他们构建的简单忆阻器网络学会了识别数字0到9的声音。经过训练后,它可以在音频输入完成之前识别每个数字。
这些忆阻器是通过一个能源密集型的过程制成的,因为研究小组需要完美的晶体来精确测量它们的特性,但他们预计更简单的过程将适合大规模生产。
Heron 说:“到目前为止,这只是一个愿景,但我认为有一些途径可以使这些材料可扩展且价格实惠,这些材料在地球上储量丰富、无毒、便宜,几乎可以喷在上面。”