中国科学家研究提出新型类脑学习方法 可助力新型类脑芯片设计

Tips:如果使用中遇到了问题,请手动返回并刷新页面,也可以联系最右侧的客服微信。我们将在工作日内尽快回复。祝君好运!

记者29日从中国科学院自动化研究所获悉,该所徐波研究员团队联合科研同行最新研究提出一种基于神经调制依赖可塑性的新型类脑学习方法(NACA),实现更高分类精度和更低学习能耗,可极大缓解灾难性遗忘问题,有望进一步引导新型类脑芯片的设计。

这项人工智能(AI)领域类脑研究重要进展成果论文,由徐波研究员团队与中国科学院脑科学与智能技术卓越创新中心蒲慕明院士、临港实验室李澄宇研究员等共同完成,近日在国际著名学术期刊《科学》旗下《科学进展》在线发表。

大脑中的神经调制相关示意图。中国科学院自动化所 供图

论文第一作者、中国科学院自动化研究所张铁林副研究员介绍说,人工智能迫切需要借鉴生物系统中的微观、介观、宏观等多尺度神经可塑性融合计算机制,以便启发实现更加高效的类脑连续学习算法,消除人工神经网络由于采用反向传播等人工学习方法而导致的广泛灾难性遗忘现象。

而生物系统中常见的多巴胺、5-羟色胺、血清素、去甲肾上腺素等神经调质物,往往经由特定的腺体释放,并远程弥散、投射到一定范围内的目标神经元群体,且根据调质浓度水平的不同,对局部的神经元、突触等多种微观可塑性产生复杂的调制影响。受生物神经调制机制的启发,研究团队通过建模多巴胺、乙酰胆碱等“全局神经调制可塑性”“局部时序依赖可塑性”等多尺度神经可塑性机制,整合得到这种基于神经调制依赖可塑性的新型类脑学习方法。

张铁林指出,这一新型类脑学习方法参考大脑中复杂的神经调制通路结构,并以期望矩阵编码的形式对神经调制通路构建数学模型,在接受刺激信号后产生不同浓度的多巴胺监督信号并进一步影响局部突触和神经元可塑性类型。该方法支持采用纯前馈的流式学习方法训练脉冲和人工神经网络,通过全局多巴胺的弥散支持与输入信号同步,甚至先于输入信号的正向信息传播,再加上选择性对“局部时序依赖可塑性”的调整,使其表现出明显的快速收敛和缓解灾难性遗忘优势。

基于神经调制依赖可塑性的新型类脑学习方法(NACA)计算模型。中国科学院自动化所  供图

论文通讯作者徐波研究员表示,在两类典型的图片和语音模式识别任务中,研究团队从准确率和计算成本两方面对新型类脑学习方法的算法进行评估,并选取两种全局学习算法作为对比,在人工神经网络中则以目标传播和反向传播算法作为对比对象。结果显示,在图片分类和语音识别标准数据集上,新型类脑学习方法都实现更高的分类精度和更低学习能耗。

同时,在验证静态分类任务的拟合能力后,研究团队重点测试新型类脑学习方法的连续学习能力,并将神经调制扩充到神经元可塑性范围。在连续手写数字、连续手写字母、连续手写数学符号、连续自然图片、连续动态手势等五大类连续学习任务中,新型类脑学习方法具有更低的能耗且发现可以极大地缓解灾难性遗忘问题。

基于神经调制依赖可塑性的新型类脑学习方法(NACA)计算模型在任务中的表现。中国科学院自动化所  供图

研究团队认为,这次研究提出的新型类脑学习方法,是一类生物合理的全局优化算法,其采用宏观可塑性来进一步“调制”局部可塑性,可视为一种“可塑性的可塑性”方法,与“学会学习”“元学习”等有直观上的功能一致性。

新型类脑学习方法同时在两种优化问题中获得性能和计算成本上的优势,更在连续学习这一更贴合生物生存环境和实际应用场景的动态任务范式下发挥出重要作用。“这些纯前馈学习、低训练能耗、支持动态连续学习等综合特征,也将有望进一步引导新型类脑芯片的设计。”徐波说。

中新网北京 (记者 孙自法)

(0)

大家喜欢

  • 人生之艰难就像那不息之长河原文出处(原片段在第几回)

    八十四集电视连续剧《三国演义》第四十五集剧本:三气周瑜(上) 剧情:在柴桑大都督府内,周瑜(字公瑾)正心情郁闷地弹着古琴。这时,丫环端着一碗羹走了过来,夫人小乔从丫环手中接过了碗,…

    2023年10月18日
  • 遛狗不栓绳怎么处理哪个部门管 遛狗不牵绳的法律法规

    生活中,许多人喜欢养只狗当宠物。作为人类忠实的朋友,乖巧的宠物狗可以帮主人解闷,增加生活乐趣,成为一个很好的陪伴。不过,养狗背后的隐患问题也不容忽视。如果管理不好,宠物狗可能会给主…

    2023年10月18日
  • 李白刻苦好学的故事 李白是天才吗

    哪怕是诗仙李白,其卓荦诗才也不能离开反复习写。“其实天才纵逸的另一面,是极度勤奋地学习与修改。”《文选》是中国现存最早的诗文总集,也是青年时期的李白倾注心力的学习文本,南京大学人文…

    2023年10月10日
  • 多久锻炼一次身体最好?一周锻炼几次最科学

    对运动的健康益处感兴趣,但又不打算每天上路或举重?最近的一项研究深入探讨了获得运动益处所需的运动频率。埃迪斯科文大学(ECU)的最新研究或许能揭示出每周锻炼多少次才值得。在一项新的…

    2023年10月10日
  • 打屁股挨板子作文范文小学

    打屁股作文范文 期中考试结束,我和弟弟考试都不理想。我得了62分,勉强及格了;弟弟只得了58分,妈妈要看见我们俩这个成绩非得气疯了不成,还得打我们的屁股。我们俩都打算不给爸爸妈妈签…

    2023年10月10日
  • 爱情的持久秘诀?怎么检验一段感情能不能长久

    爱情,是生活中最美丽的诗篇,我们都向往着能够执子之手,与所爱之人相伴一生的幸福。然而,在现实的婚姻生活中,没有多少人能够真正做到这一点。那么我们该如何检验一段感情是否能够长久呢? …

    2023年9月29日
客服
客服
返回顶部