TG下载

TG:多突触神经元模型问世国内团队打造类脑计算新引擎登上《自然·通讯

帮助中心 2025-08-17 06:43

  

多突触神经元模型问世国内团队打造类脑计算新引擎登上《自然·通讯

  本文第一作者为范良伟,国防科技大学讲师。共同通讯作者分别为沈辉,国防科技大学教授;李国齐,中国科学院自动化研究所研究员、国家杰出青年基金获得者;胡德文,国防科技大学教授、国家杰出青年基金获得者、国防科技大学智能科学学院认知科学团队创始人和带头人,2012、2018 年两次获国家自然科学奖二等奖。

  当前人工智能技术迅猛发展的同时,其高能耗问题也日益凸显。脉冲神经网络(Spiking Neural Networks, SNNs)被认为是一种更具生物合理性、能效更高的计算范式。

  然而,目前业界仍缺乏一种在计算效率和生物合理性之间实现良好平衡的脉冲神经元模型,这成为制约 SNNs 发展与应用的关键问题之一。

  由于脉冲神经元的信息表示方式是二值化的,单通道连接方式使得 SNNs 难以同时编码输入信号的空间强度分布与时间动态性。这种信号编码过程中出现的信息损失使得 SNNs 在时空计算任务中的性能难以匹敌甚至超越连续值人工神经网络(ANNs)。

  近日,国防科技大学智能科学学院胡德文课题组与中国科学院自动化研究所李国齐课题组合作提出了一种新型脉冲神经元模型——多突触发放(Multi-Synaptic Firing, MSF)脉冲神经元 (下图 1)。

  该神经元模型兼具生物合理性和计算高效性,可以同时编码输入信号的时空动态信息,在不增加计算延迟或显著功耗的前提下,能够实现高性能的类脑计算,相关研究在线发表于《自然・通讯》(Nature Communications)。

  本研究受到生物学中「多突触连接」现象的启发,即允许神经元的一个轴突在同一目标神经元上建立多个具有不同发放阈值的突触。这种现象在多种生物大脑中广泛存在,包括秀丽隐杆线虫、果蝇、小鼠、大鼠以及人类大脑。

  通过这种结构,MSF 神经元可实现时空信息的同时编码:即借助不同突触的瞬时发放率和精确的脉冲时序来同时编码输入信号的空间强度分布与时间动态。

  在理论层面上,该研究表明 MSF 神经元是一种通用且更精细的神经元抽象模型,传统的 LIF 神经元和经典的 ReLU 神经元可视作其在某些具体参数下的特例,从而揭示了 ANNs 与 SNNs 之间的内在联系。

  更重要的是,该研究进一步通过理论推导得到了最优的突触阈值选择方案,并提供了误差反向传播训练替代梯度函数的参数优化准则,避免了深层 SNNs 模型训练时出现梯度消失或爆炸问题,使基于 MSF 神经元构建的 SNNs 可扩展至大规模、深层模型而不发生性能退化。

  在实验层面上,该研究首先通过信号重建任务,揭示了 MSF 神经元可通过独立的频率编码与时间编码方式,同时编码输入信号的空间强度分布与时间动态特性(下图 2)。图片和视频重建结果表明,基于 MSF 神经元构建的脉冲自编码模型重建出的图像具有更好的纹理、颜色等细节信息。

  其次,在静态与动态识别、基于图像与事件流的目标检测、脑机接口以及强化学习等多个基准任务上的大量实验结果表明,MSF 神经元凭借其优越的时空编码能力,在不增加模型复杂度的前提下,性能相较于传统 LIF 神经元取得了显著提升。

  特别地,在连续事件流的时空计算任务中,基于 MSF 神经元构建的 SNNs 甚至超越了基于 ReLU 神经元构建的、具有相同网络结构的 ANNs,并展现出更高的能效比(下图 3)。

  研究团队已成功将 MSF 神经元模型部署于国产神经形态硬件平台,并在真实自动驾驶场景下完成事件驱动的目标检测任务,验证了其在类脑计算芯片的硬件兼容性(下图 4)。

  有趣的是,实验还发现训练后的模型在突触数量分布上类似于观察到的人类大脑皮层,进一步印证了该模型具备一定的生物学合理性与可解释性。

  该成果推动了类脑计算向更复杂、更具自然智能的方向发展,为构建低功耗、高性能、可扩展的人工智能系统奠定了基础,有望加速 SNNs 在边缘计算与神经形态芯片等前沿领域中的实际落地与应用。

  研究团队表示,未来将继续探索 MSF 神经元在更广泛任务中的应用潜力,助力人工智能技术迈向更加智能、绿色与可持续的发展方向。

  论文其它作者还包括国防科技大学连祥凯、李昱霖,中国科学院自动化研究所姚满。相关工作得到了国家自然科学基金委重点项目、湖南省科技创新计划项目等项目的支持。

  原标题:《多突触神经元模型问世,国内团队打造类脑计算新引擎,登上《自然·通讯》》

  本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。

上一篇:第三十七届北京大兴西瓜节音乐嘉年华活动在亦庄镇亦花园成功举办

下一篇:外交部发言人就日本政要参拜靖国神社答记者问

猜你喜欢