位置:成果数据库 > 期刊 > 期刊详情页
Fast Learning in Spiking Neural Networks by Learning Rate Adaptation
  • ISSN号:1004-9541
  • 期刊名称:Chinese Journal of Chemical Engineering
  • 时间:2012.12
  • 页码:1219-1224
  • 分类:TP183[自动化与计算机技术—控制科学与工程;自动化与计算机技术—控制理论与控制工程] TN929.533[电子电信—通信与信息系统;电子电信—信息与通信工程]
  • 作者机构:[1]College of Infbrmation Science and Engineering, Huaqiao University, Xiamen 361021, China
  • 相关基金:Supported by the National Natural Science Foundation of China (60904018, 61203040); the Natural Science Foundation of Fujian Province of China (2009J05147, 2011J01352); the Foundation for Distinguished Young Scholars of Higher Education of Fujian Province of China (JA10004); the Science Research Foundation of Huaqiao University (09BS617)
  • 相关项目:离散事件动态系统的模糊概率模型及最优监控研究
中文摘要:

为加速在刺神经网络( SNN )与时间的编码范例由 SpikeProp 算法学习监督,三学习率改编方法(启发式的规则,三角洲三角洲规则,和 delta-bar-delta 统治)它习惯于加快在人工的神经网络训练,被用来为前馈控制 SNN 开发训练算法。这些算法的表演被四个实验调查:古典 XOR (独占或) 问题,艾丽斯数据集,在田纳西伊斯门过程的差错诊断,和泊松分离尖铁训练。结果证明所有三个学习的率改编方法能与原来的 SpikeProp 算法相比加快 SNN 的集中。而且,如果适应学习率与动量术语在联合被使用,二修正将以完成快速、稳定的集中的一个有益的方法平衡对方。在三个学习的率改编方法, delta-bar-delta 统治执行最好。有动量的 delta-bar-delta 方法有最快的集中率,训练进程的最大的稳定性,和网络学习的最大的精确性。在这份报纸的建议算法是简单、有效、为 SNN 的实际应用程序因而珍贵。

英文摘要:

For accelerating the supervised learning by the SpikeProp algorithm with the temporal coding paradigm in spiking neural networks (SNNs), three learning rate adaptation methods (heuristic rule, delta-delta rule, and delta-bar-delta rule), which are used to speed up training in artificial neural networks, are used to develop the training algorithms for feedforward SNN. The performance of these algorithms is investigated by four experiments: classical XOR (exclusive or) problem, Iris dataset, fault diagnosis in the Tennessee Eastman process, and Poisson trains of discrete spikes. The results demonstrate that all the three learning rate adaptation methods are able to speed up convergence of SNN compared with the original SpikeProp algorithm. Furthermore, if the adaptive learning rate is used in combination with the momentum term, the two modifications will balance each other in a beneficial way to accomplish rapid and steady convergence. In the three learning rate adaptation methods, delta-bar-delta rule performs the best. The delta-bar-delta method with momentum has the fastest convergence rate, the greatest stability of training process, and the maximum accuracy of network learning. The proposed algorithms in this paper are simple and efficient, and consequently valuable for practical applications of SNN.

同期刊论文项目
期刊论文 19 会议论文 2 获奖 2 专利 1
同项目期刊论文
期刊信息
  • 《中国化学工程学报:英文版》
  • 中国科技核心期刊
  • 主管单位:中国科协
  • 主办单位:中国化学工业与化学工程学会
  • 主编:
  • 地址:北京东城区青年湖路13号
  • 邮编:100011
  • 邮箱:cjche@cip.com.cn
  • 电话:010-64519487/88
  • 国际标准刊号:ISSN:1004-9541
  • 国内统一刊号:ISSN:11-3270/TQ
  • 邮发代号:
  • 获奖情况:
  • 1998年化工系统优秀信息成果一等奖,中国期刊方阵“双效”期刊
  • 国内外数据库收录:
  • 俄罗斯文摘杂志,美国化学文摘(网络版),荷兰文摘与引文数据库,美国工程索引,美国剑桥科学文摘,美国科学引文索引(扩展库),英国高分子图书馆,日本日本科学技术振兴机构数据库,中国中国科技核心期刊
  • 被引量:385