脉冲神经网络专利技术分析

国家知识产权局专利局专利审查协作天津中心 李绅龙 陈 辰

脉冲神经网络是人工智能领域的关键技术之一。本文站位专利视角，基于脉冲神经网络技术全球申请状况，针对该技术全球专利申请趋势、区域分布、主要申请人、主要发明人、各技术分支核心专利等进行分析，通过分析发现美国在该领域一直处于技术领先地位，且核心技术掌握在产品转化能力强的大型科技公司，中国近年来虽然不断发展和追赶，但发展速度以及核心专利数量仍有很大差距，需要加快追赶步伐及时补足短板。

神经网络在当今人工智能领域的地位毋庸置疑，其技术发展经历了第一阶段的感知机以及第二阶段的多层人工神经网络（ANN），随着研究工作的不断深入已经取得了很大进展，其在模式识别、自动控制、预测估计、智能机器人、生物、医学等领域有着广泛的应用。近年来，由于ANN缺少神经内部动力学机制而不能准确的模仿生物大脑神经元的运作机制，而使得起源于脑科学的脉冲神经网络（SNN-Spiking Neuron Networks）发展迅猛。SNN与ANN最大的差别就是，对于人工神经网络每一个神经元接收与发送的是同一时刻到达/发送的一批数据，而对于脉冲神经网络接收的是脉冲信号，信号改变电位后再根据自身电位同样发出脉冲信号。由于SNN更接近实际地模拟神经元并把时间信息的影响考虑在内的特性，而被誉为第三代人工神经网络。与ANN领域的繁荣发展相比，SNN领域的研究仍然处于快速发展阶段，其当前的研究主要围绕神经元模型、训练算法、编程框架、数据集、硬件芯片加速等几个重要技术方向。

1 脉冲神经网络技术专利分析

本文选取Incopat专利分析软件进行检索，检索范围为2020年11月之前公开的全球专利文献。下面针对脉冲神经网络技术领域全球专利申请情况进行分析。

1.1 全球专利申请分析

SNN技术全球专利申请趋势如图1所示，图1同时一并描述出了SNN技术各重点研究方向的全球专利申请趋势。2010年之前各技术分支申请量均比较少，申请最多的年份也不足20件，而2010年申请量开始逐年增加，申请量主要集中在神经元模型、训练算法、编程框架这几个方向。神经元模型和训练算法的改进一直是近几年的研究热门，其主要关注于网络规模和学习性能的提升。而编程框架的申请量一直处于领先地位，且近几年有进一步增长趋势，表明了在SNN相关技术逐步发展的同时对编程工具的模拟效率及友好性不断提出更高的创新需求。而对于数据集和硬件芯片加速方面的申请一直较少，主要是由于当前已有的如MNIST、CIFAR-10等各类规模的数据集已经发展比较成熟，现有数据集已经能够适应当前应用需求，缺乏创新动力；而硬件芯片加速方面，由于早期开展SNN相关研究的IBM、英特尔、清华大学等研究团队已经开发出较为成熟的低能耗、高运速TrueNorth、Loihi、Tianjic等芯片，后续的SNN技术研发多为基于已有芯片进行。

图1 SNN技术全球专利申请趋势

1.2 全球专利申请区域分布

图2 SNN技术全球专利申请区域分布

图3 SNN技术全球主要申请人

全球专利申请区域分布情况如图2所示。美国全球专利申请量在各个技术分支均位居首位，在全球申请总量中占比53%，占据了全球SNN技术申请量的半壁江山；中国近年来SNN技术方面发展迅速，目前全球申请量已居第二位，与美国的技术差距在逐步缩小。提交PCT的申请量占比12%，表明SNN技术保护价值高，申请人在本国申请保护的同时也很重视在其它目标国家的专利保护布局。而对于欧、日、韩、印、英、俄等国家申请量很小，其在该领域的技术实力也比较薄弱。

1.3 全球主要申请人分析

SNN技术全球主要申请人如图3所示。全球专利申请量排名前十位的申请人中包括五家美国企业、一家韩国企业，而另外四家均来自中国的大学或研究所。可见美国企业在SNN技术方面的研究处于世界前列，并且专利申请主要集中在世界知名的大型科技公司，这些公司科研经费充足且技术转化力强，创新动力十分强劲。中国的电子科技大学、清华大学、天津大学及中科院自动化研究所虽然有一定数量的申请，但其申请量仅为排名前三位美国公司一半。目前中国缺少行业龙头企业，且由于高校专利技术的产品转化能力较弱，虽然近几年一直在逐步追赶，但与美国公司的差距仍然很大。

1.4 SNN技术全球主要发明人

SNN技术全球主要发明人如图4所示。在全球专利申请排名前十位的发明人中，来自英特尔的发明人数量最多，包括narayan在内共有4人，并且有两人排名在前三位，IBM虽然前十位发明人仅占两位，但第一位的dharmendra申请量45件，远远领先第二、三名的15件，英特尔和IBM两家公司各有优势，强大的研发队伍和资金实力是二者在行业内占据领先地位的坚实保障。其它主要国外发明人还包括高通的jason。而我国的主要发明人为清华大学的施路平、裴京以及电子科技大学的屈鸿。中国的SNN技术领军人物有一定的技术实力，但是还需要进一步加强优势和政策激励，加快追赶世界领先企业。

图4 SNN技术全球主要发明人

1.5 SNN技术各技术分支核心专利

SNN技术各技术分支核心专利如图5所示。图中按时间段查找SNN技术各技术分支中占据核心地位的专利申请，各技术分支在2010年前技术发展比较缓慢，核心专利较少，而2010至2015年间是技术增长的主要阶段，核心专利申请较多，近几年由于技术发展已经相对成熟，多数专利申请是围绕核心技术性能或转化应用等方面的改进，核心专利申请量较少。各个分支的核心专利申请主要掌握在国外申请人手中，少量核心专利集中在国内的重点申请人/发明人手中。我国在SNN技术方面处于专利申请总量以及核心专利拥有量的双重弱势之下，需要加快追赶步伐，及时补足短板。

图5 SNN技术各技术分支核心专利

2 总结

近年来，对于仿生学的逐渐重视使得SNN技术得以迅速发展，其对大脑神经元更好的模仿机制，使得未来必然成为人工智能领域的研究重点。通过针对全球SNN技术的专利申请现状进行分析，发现美国一直处于领先优势，且美国发明人占有重要地位，而我国在SNN技术方面要实现赶超不仅需要研发上的大力投入，还需要产品转化及创新驱动强的科技公司参与进来，并且在政策上给予一定的扶持，以带动行业更快更好的发展。