MIT研究人员开发出液态神经网络 可适应不同环境

文章来源:盖世汽车 发布时间:2021-02-01
分享到
据报道,麻省理工学院(MIT)的研究人员开发出一种新神经网络,名为“液态(liquid)”神经网络。

 据外媒报道,麻省理工学院(MIT)的研究人员开发出一种新神经网络,名为“液态(liquid)”神经网络。它不仅可以在训练阶段可以进行学习,在实际工作中也可以。此外,它还可以更改其基本计算公式,不断适应新的数据输入。这一进步将加快基于实时数据流的决策速度,包括医疗诊断和自动驾驶领域的数据流。

此项研究的主要作者Ramin Hasani表示:“这是时间序列数据处理方式的未来,比如机器人控制、自然语言处理、视频处理等,具有巨大潜力。”他还表示:“时间序列数据无处不在,且对于了解世界至关重要。世界的一切都与其有关,包括人类感知,人类其实并非是感知图像,而是感知图像序列。因此,实际上,是时间序列数据创造了我们的世界。”

前瞻技术,液态神经网络,数据流,时间序列数据

(图片来源: MIT )

Hasani还列出一些对社会至关重要的时间序列,如视频处理、财务数据和医疗诊断应用程序。不断变化的数据流是不可预测的,但通过实时分析这些数据,并使用它们预测未来行为,可以促进自动驾驶汽车等新兴技术的发展。因此,Hasani为自动驾驶创建了新算法,以适应真实世界系统的可变性。

神经网络是可通过分析一组“训练”示例识别模式的算法,通常被认为是模仿大脑思维。Hasani设计了一种新神经网络,灵感来源是细线虫秀丽隐杆线虫。Hasani说:“秀丽隐杆线虫的神经系统只有302个神经元,但却可以产生意想不到的复杂动力。”Hasani还对其神经网络进行了编码,并特别注意秀丽隐杆线虫神经元是如何通过电脉冲激活和相互交流的。在他构造的神经网络的方程式中,参数可基于一组嵌套微分方程的结果随时间发生变化。

灵活性是神经网络的关键。大多数神经网络的行为在训练阶段之后是固定的,这意味着它们很难适应输入数据流中的变化。Hasani称,“液态”神经网络的流动性使其应对意外或嘈杂数据时更具弹性,比如大雨遮挡了自动驾驶汽车上的摄像头视野。因此,“液态”神经网络更强大。”Hasani还补充到,神经网络灵活性的另一个优势是更具解释性。

Hasani表示,其液态神经网络成功避开了其他神经网络的共性难点。通过使用微分方程改变神经元的呈现方式,可以探索其它方式不能发现的复杂性。由于Hasani采用了较少的高表达神经元数量,因此,查看神经网络决策的“黑匣子”,以及诊断网络为何会具有某种特征会更容易。Hasani还说,“模型本身在表达能力方面会更丰富”,将帮助工程师了解并改善流动网络的性能。

液态神经网络在一系列测试中均表现出色。在预测数据集(从大气化学到交通模式)未来值的准确度上方面,液态神经网络比其他时间序列算法要高几个百分点。Hasani表示:“在许多应用中,液态神经网络性能确实较高。此外,它的体积还较小,意味着无需花费高昂计算成本即可完成测试。每个人都想扩大神经网络,但我希望可以缩小它的规模,减少节点数量,但更复杂。”

Hasani计划继续改进该系统,并准备将其投入产业应用。他说:“我们发现,受自然启发的神经网络更具表现力。但这只是个开始。那如何扩展它呢?我们认为,这种神经网络将对未来情报系统产生重大影响。”


收藏
赞一下
0