位置:成果数据库 > 期刊 > 期刊详情页
神经网络的两种结构优化算法研究
  • ISSN号:1002-0411
  • 期刊名称:《信息与控制》
  • 时间:0
  • 分类:TP183[自动化与计算机技术—控制科学与工程;自动化与计算机技术—控制理论与控制工程]
  • 作者机构:[1]江南大学控制科学与工程研究中心,江苏无锡214122
  • 相关基金:国家自然科学基金资助项目(60574051)
中文摘要:

提出了一种基于权值拟熵的“剪枝算法”与权值敏感度相结合的新方法,在“剪枝算法”中将权值拟熵作为惩罚项加入目标函数中,使多层前向神经网络在学习过程中自动约束权值分布,并以权值敏感度作为简化标准,避免了单纯依赖权值大小剪枝的随机性,同时,又针对剪枝算法在优化多输入多输出网络过程中计算量大、效率不高的问题,提出了一种在级联-相关(cascade—correlation,CC)算法的基础上从适当的网络结构开始对网络进行构建的快速“构造算法”.仿真结果表明这种快速构造算法在收敛速度、运行效率乃至泛化性能上都更胜一筹.

英文摘要:

Based on pseudo-entropy of weights, a new method is proposed to integrate pruning algorithm with sensitivity weights. The pruning algorithm introduces the pseudo-entropy of weights as a penalty term into the normal objective function, and the distribution of weights is automatically constrained by a muhilayer feed-forward neural network during the training process. The weight sensitivity is served as the simplification criteria of pruning to avoid the pruning randomicity caused by only using the weights. Meanwhile, for the problems of heavy computation hurden and low efficiency of pruning algorithm in optimizing the multi-input and multi-output networks, a fast constructive algorithm is put forward, which is based on the Cascade-Correlation (CC) algorithm and constructs the new neural network from a proper network structure. The simulation results show that this fast constructive algorithm is a better choice in terms of convergence rate, computational efficiency and even generalization performance.

同期刊论文项目
同项目期刊论文
期刊信息
  • 《信息与控制》
  • 北大核心期刊(2011版)
  • 主管单位:中国科学院
  • 主办单位:中国自动化学会 中国科学院沈阳自动化研究所
  • 主编:王天然
  • 地址:沈阳市南塔街114号
  • 邮编:110016
  • 邮箱:xk@sia.cn
  • 电话:024-23970049
  • 国际标准刊号:ISSN:1002-0411
  • 国内统一刊号:ISSN:21-1138/TP
  • 邮发代号:
  • 获奖情况:
  • 全国优秀期刊三等奖,中科院优秀期刊三等奖,辽宁省优秀期刊一等奖
  • 国内外数据库收录:
  • 美国数学评论(网络版),荷兰文摘与引文数据库,英国科学文摘数据库,日本日本科学技术振兴机构数据库,中国中国科技核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版),中国北大核心期刊(2000版)
  • 被引量:12960