关联问题:人工智能通过少花钱多办事来学习

关联问题:人工智能通过少花钱多办事来学习
稀疏性使得神经元之间的峰值活动和通信更有效,因为神经元在学习时不使用反向传播。来源:Chakrabartty实验室

大脑已经进化到用更少的资源做更多的事情。以一个微小的昆虫大脑为例,它的神经元不到100万个,但表现出多种行为,比目前的人工智能系统更节能。这些微小的大脑作为计算系统的模型,随着数十亿个硅神经元可以在硬件上实现,计算系统变得越来越复杂。

华盛顿大学圣路易斯麦凯维工程学院电气与系统工程系的克利福德·w·墨菲教授Shantanu Chakrabartty实验室的一项新研究表明,实现能源效率的秘密在于硅神经元学习交流和形成网络的能力。

他们的研究结果发表在2021年7月28日的杂志上神经科学前沿

几年来,他的研究小组研究了动力系统方法,以解决神经元与网络的性能差距,并为人工智能系统提供了像生物系统一样节能的蓝图。

他的团队先前的工作表明,在计算系统中,峰值神经元会产生扰动,使每个神经元“知道”哪些神经元在峰值,哪些神经元在响应。这就好像神经元都嵌在一块由能量约束形成的橡胶板上;一个由尖刺引起的涟漪,就会产生影响所有人的波浪。像所有物理过程一样,硅神经元系统倾向于自我优化到能量最低的状态,同时也受到网络中其他神经元的影响。这些约束聚集在一起形成了一种二级通信网络,其中可以通过动态但同步的尖峰拓扑进行额外的信息通信。这就像橡胶片在对多个尖刺做出反应时同步振动。

在最新的研究中,Chakrabartty和博士生Ahana Gangopadhyay展示了神经元如何学习在橡胶板中选择最有效的扰动和波动模式。他们表明,如果学习是由稀疏性(更少的能量)引导的,就像橡胶板的电刚度由每个神经元调节,这样整个网络就会以最节能的方式振动。神经元只使用局部信息来完成这一过程,这些信息的交流效率更高。神经元之间的交流因此成为一种新兴现象,在优化能量使用的需求的指导下。

这一结果可能对如何设计神经形态人工智能系统产生重大影响。“我们想从神经生物学中学习,”Chakrabartty说。“但我们希望能够利用神经生物学和硅工程的最佳原理。”

从历史上看,神经形态工程——在生物学上建模人工智能系统——一直基于相对直接的大脑模型。拿一些神经元,一些突触,把所有东西连接在一起,瞧,即使它不是活着的,至少它能够有效地执行一个简单的任务(例如识别图像),甚至比生物大脑更有效。这些系统是通过连接内存(突触)和处理器(神经元)来构建的,每一个都执行其单一的任务,因为它被认为是在大脑中工作的。但是这种从一个结构到一个功能的方法,虽然很容易理解和建模,但却忽略了大脑的全部复杂性和灵活性。

最近对大脑的研究表明,任务并不是那么整齐地划分的,在某些情况下,相同的功能可能由不同的大脑结构执行,或者由多个大脑结构共同执行。Chakrabartty说:“越来越多的信息表明,我们所遵循的这种简化主义方法可能并不完整。”

构建一个能够学习新事物的高效系统的关键是使用能量和结构约束作为计算和通信的媒介,或者如Chakrabartty所说,“使用稀疏性进行优化”。

这种情况让人想起凯文·贝肯(Kevin Bacon)的六度理论:挑战或限制是通过连接六个或更少的人来与行动者建立联系。

对于物理上位于一个芯片上的神经元来说,要想达到最高效的效率:挑战或约束是在分配的能量范围内完成任务。一个神经元通过中间媒介与目标神经元进行通信可能更有效。挑战在于如何从众多可能的选择中挑选出正确的“朋友”神经元。进入能量约束和稀疏性。

就像疲惫的教授一样,一个精力受到限制的系统也会寻找阻力最小的方法来完成指定的任务。与这位教授不同的是,得益于Chakrabartty实验室开发的叠加技术,人工智能系统可以一次性测试所有选项,该技术使用模拟计算方法。从本质上讲,硅神经元可以一次尝试所有的通信路径,找到最有效的连接方式来完成分配的任务。

目前的论文显示了一个由1000个硅组成的网络只需很少的训练示例就能准确检测气味。长期目标是在这是一种蝗虫,它也被证明善于区分气味。Chakrabartty一直在与生物医学工程系的Barani Raman教授,以及机械工程与材料科学系的Lilyan & E. Lisle Hughes教授Srikanth Singamaneni合作,创造一种半机械人蝗虫——有两个大脑,一个硅大脑连接到生物大脑。

Chakrabartty说:“如果我们能开始连接这两个领域,这将是这项研究最有趣和令人满意的方面。”“不仅在身体上,而且在功能上。”


进一步探索

硅“神经元”可能会为计算机处理器增加一个新的维度

更多信息:Ahana Gangopadhyay等人,利用峰值生长转换神经元种群的稀疏驱动少反向传播学习框架,神经科学前沿(2021)。DOI: 10.3389 / fnins.2021.715451
期刊信息: 神经科学前沿

引用:关联问题:人工智能通过用更少的资源做更多的事情来学习(2021年,8月3日),检索自2022年5月30日//www.puressens.com/news/2021-08-issue-ai.html
这份文件受版权保护。除为私人学习或研究目的而进行的公平交易外,未经书面许可,不得转载任何部分。内容仅供参考之用。
285股票

对编辑的反馈