物理系统执行机器学习计算

康奈尔大学的研究人员正在训练物理系统执行机器学习计算,如识别手写数字和语音元音。

通过大卫·纳特 2022年2月8日
提供:康奈尔大学

康奈尔大学的研究人员发现训练身体系统的方法从计算机扬声器和激光到简单的电子电路,以执行机器学习计算,例如识别手写数字和语音元音。通过将这些物理系统转化为驱动谷歌翻译和在线搜索等服务的神经网络,研究人员已经展示了一种早期但可行的传统电子处理器替代品——它有可能比数据中心和服务器群中支持许多人工智能应用的耗能芯片更快、更节能。

“许多不同的物理系统都有足够的复杂性,它们可以执行大范围的计算,”他说彼得·麦克马洪他是工程学院应用与工程物理学助理教授,领导了这个项目。“我们演示的系统看起来一点也不像,它们似乎与手写数字识别或元音分类无关,但你可以训练它们做到这一点。”

该团队的论文,”反向传播训练的深度物理神经网络1月26日发表在《自然》杂志上。这篇论文的共同主要作者是洛根·赖特和小野寺达宏,他们是NTT研究中心麦克马洪实验室的博士后研究员。

McMahon小组的核心研究主题存在于物理学和计算的交叉点:如何利用物理系统比传统计算机更有效或更快地执行计算。

在这个项目中,他们专注于一种计算:机器学习。目标是找出如何使用不同的物理系统以一种通用的方式执行机器学习,这种方式可以应用于任何系统。研究人员开发了一种训练程序,使三种不同类型的物理系统——机械、光学和电子——能够进行演示。它所需要的只是一点调整,以及暂停怀疑。

康奈尔大学的研究人员成功地训练了(从左到右)一台电脑扬声器、一个简单的电子电路和一台激光来进行机器学习计算。提供:康奈尔大学

康奈尔大学的研究人员成功地训练了(从左到右)一台电脑扬声器、一个简单的电子电路和一台激光来进行机器学习计算。提供:康奈尔大学

人工神经网络通过应用一系列参数化函数来输入数据,从而在数学上工作。物理系统的动力学也可以被认为是将一个函数应用于物理系统的数据输入,”麦克马洪说。“从某种意义上说,神经网络和物理学之间的这种数学联系使我们的方法成为可能,尽管从不寻常的物理系统中制造神经网络的概念乍听起来真的很荒谬。”

对于机械系统,研究人员将一块钛板放在一个市售扬声器的顶部,创造了物理学上所谓的驱动多模机械振荡器。该光学系统由一束穿过非线性晶体的激光组成,该晶体通过组合光子对将入射光的颜色转换成新的颜色。第三个实验使用了一个只有四个元件的小型电子电路——一个电阻、一个电容、一个电感和一个晶体管——中学生可能在科学课上组装的那种电路。

在每个实验中,手写数字图像的像素被编码成光脉冲或电压,并输入到系统中。系统对信息进行处理,并以类似的光脉冲或电压输出信息。至关重要的是,为了让系统执行适当的处理,它们必须经过训练。因此,研究人员改变了特定的输入参数,并通过物理系统运行了多个样本——比如不同笔迹的不同数字,然后使用笔记本电脑来确定如何调整参数以达到任务的最大准确性。这种混合方法利用了传统人工神经网络的标准训练算法,称为反向传播,以一种适应噪声和实验缺陷的方式。

研究人员能够训练光学系统对手写数字进行分类,准确率达到97%。虽然这种精度低于在标准电子处理器上运行的传统神经网络的最先进水平,但实验表明,即使是一个非常简单的物理系统,与传统的神经网络没有明显的联系,也可以学会执行机器学习,并且可能比传统的电子神经网络更快,使用更少的能量。

光学系统也被成功地训练来识别语音。

研究人员已经发布了他们的Physics-Aware-Training在线编写代码,这样其他人就可以把自己的物理系统变成神经网络。训练算法是通用的,它几乎可以应用于任何这样的系统,甚至是流体或外来材料,不同的系统可以连接在一起,利用每个系统最有用的处理能力。

“事实证明,你几乎可以把任何物理系统变成神经网络,”麦克马洪说。“然而,并不是每个物理系统都能成为一个很好的神经网络,所以有一个重要的问题是,什么样的物理系统最适合重要的机器学习任务。但现在有一种方法可以尝试找出答案,这就是我的实验室目前正在追求的。”

-编辑克里斯Vavra,网络内容经理,控制工程、CFE媒体与技术、cvavra@cfemedia.com


作者简介:大卫·纳特,康奈尔大学