科学家研发出新型类脑学习方法 -凯发k8国际首页登录

　　科学家研发出新型类脑学习方法。迫切需要借鉴生物系统中的微观、介观、宏观等多尺度神经可塑性融合计算机制，以启发实现更加高效的类脑连续学习算法，消除人工神经网络因采用反向传播(backpropagation，bp)等人工学习方法而导致的广泛灾难性遗忘现象。生物系统中常见的多巴胺、5-羟色胺、血清素、去甲肾上腺素等神经调质物，往往经由特定的腺体释放(图1a)，远程弥散、投射到一定范围内的目标神经元群体，并根据调质浓度水平的不同，对局部的神经元、突触等多种微观可塑性产生复杂的调制影响(图1b)。

　　受到该生物神经调制机制的启发，中国科学院自动化研究所研究员徐波团队与中国科学院院士、脑科学与智能技术卓越创新中心高级研究员蒲慕明，以及临港实验室研究员李澄宇等，通过建模多巴胺、乙酰胆碱等全局神经调制可塑性(neuromodulation plasticity)、局部时序依赖可塑性(spike timing-dependent plasticity，stdp)等多尺度神经可塑性机制，整合得到一种基于神经调制依赖可塑性的新型类脑学习方法(neuromodulation-assisted credit assignment，naca)。该方法参考了大脑中复杂的神经调制通路结构，并以期望矩阵编码的形式对神经调制通路构建数学模型(图2a)，在接受刺激信号后产生不同浓度的多巴胺监督信号并进一步影响局部突触和神经元可塑性类型(图2b)。naca支持采用纯前馈的流式学习方法训练脉冲(spiking neural network，snn)和人工(artificial neural network，ann)神经网络(图2d、e)，通过全局多巴胺的弥散支持与输入信号同步，甚至先于输入信号的正向信息传播，再加上选择性的对stdp的调整，使得naca表现出明显的快速收敛和缓解灾难性遗忘优势。

　　在两类典型的图片和语音模式识别任务中，该团队从准确率和计算成本两方面对naca算法进行评估，并在snn中选取了e-prop和brp两种全局学习算法作为对比，在ann中则以tp(target propagation)和bp算法作为对比对象。在图片分类(mnist)和语音识别(tidigits)标准数据集上，naca均实现了更高的分类精度(约1.92%)和更低学习能耗(约98%)。在验证了静态分类任务的拟合能力后，该研究重点测试naca算法在class-cl上的连续学习能力，并将神经调制扩充到神经元可塑性范围(图3a、b)。在五大类的连续学习任务中(包括连续mnist手写数字、连续alphabet手写字母、连续mathgreek手写数学符号、连续cifar-10自然图片、连续dvsgesture动态手势)，naca算法相对bp和ewc算法，具有更低的能耗且可缓解“灾难性遗忘”问题(图3c-g)。

　　研究显示，naca是一类生物合理的全局优化算法。这种采用宏观可塑性来进一步“调制”局部可塑性，可被视为是一种“可塑性的可塑性”(plasticity of plasticity)方法，与“学会学习”、“元学习”(learn to learn)等有直观上的功能一致性。该算法同时在snn和ann的优化问题中获得了性能和计算成本上的优势，更在连续学习这一更贴合生物生存环境和实际应用场景的动态任务范式下发挥重要作用。这些纯前馈学习、低训练能耗、支持动态连续学习等综合特征，也将有望进一步引导新型类脑芯片的设计。

　　相关研究成果以a brain-inspired algorithm that mitigates catastrophic forgetting of artificial and spiking neural networks with low computational cost为题，在线发表在《科学进展》(science advances)上。研究工作得到中国科学院战略性先导科技专项(a类)、上海市市级科技重大专项、临港实验室专项、中国科学院青年创新促进会等的支持。

　　论文链接

　　图1. 大脑中的神经调制。(a)四种神经调质及其通路;(b)非线性神经调制;(c)神经调制多样化局部可塑性。

　　图2. naca计算模型。(a)神经调制通路建模和群体期望编码;(b)多类局部可塑性;(c-e)naca算法整体流程及在snn和ann中发挥作用。

　　图3. naca算法在class-cl任务中的表现。(a、b)神经调制同时影响局部神经元和突触可塑性;(c-g)naca与ewc、bp等性能对比。

　　研究团队单位：自动化研究所