泛函网络是类似于人工神经网络的新型网络模型,与神经网络所不同的是泛函网络不是权值的学习,而是结构和参数的学习。本项目把泛函网络作为数学的一种"可视化(Visual)"手段,把泛函网络形式归结为某些数学形式或结构,采用数值代数的方法,提出一种实泛函网络代数算法通用公式,该算法能准确地获得全局最优值。然后,引入复数泛函神经元概念,给出复数泛函网络的构造方法,提出一种复数泛函网络神经元Hebb型学习算法,该算法基于TLS准则,而不是常用的LS或LMS准则。其次,针对目前泛函网络结构和参数学习还没有一行之有效的评价准则,基于实、复数编码遗传算法原理,分别提出一种实、复值泛函网络结构学习R-平方评价准则,该方法实现能用较小的网络规模获得更满意的泛化特性。最后,针对目前泛函网络神经元基函数选取没有理论指导,提出用t检验法来提高网络泛化能力的方法。为进一步完善泛函网络的数学理论和拓宽其应用范围奠定基础。
Functional neuron;Learning algorithm;Topology structure;Functional network;Intelligence optimization
人工神经网络由于具有高度的并行性、分布式存储、自适应学习能力等特点,而被广泛应用于人工智能、模式识别、信号处理、机器人和非线性控制等领域。泛函网络是类似于人工神经网络的新型网络模型,它是对神经网络的高度概括和推广,研究表明,神经网络能解决的问题,泛函网络也能解决,特别是神经网络不能解决的问题,泛函网络也能解决,应此,泛函网络技术的研究已成为人工智能领域研究的一个崭新的分支,受到国内外学者的极大的关注。 本项目基于泛函神经元、学习算法、拓扑结构是确定泛函网络信息处理性能的三大要素来开展研究, 所采用的方法是把泛函网络作为数学的一种“可视化(Visual)”手段,把泛函网络形式归结为某些数学形式或结构,基于数值代数的方法,结合先进的智能优化的理论、算法,围绕泛函网络模型的三大要素开展研究,取得一系列重要理论结果(1)针对目前泛函网络神经元基函数选取没有理论指导,提出了一些用智能优化方法,如文化进化算法等来设计神经神经元基函数的算法,解决这一瓶颈问题。(2)针对目前泛函网络学习算法所存在的速度慢、学习精度不高且陷入局部极小点等缺陷,借鉴新型元启发式方法的特性,设计出一种实泛函网络代数算法通用公式,该算法能准确地获得全局最优值。基于泛函神经元结构特性,提出一种泛函网络神经元Hebb型学习算法。针对目前泛函网络结构和参数学习还没有一行之有效的评价准则,基于实、复数编码遗传算法原理,分别提出一种泛函网络结构学习R-平方评价准则,该方法实现能用较小的网络规模获得更满意的泛化特性。(3)针对泛函网络结构设计是基于问题驱动的特点,导致其结构设计存在不确定性使其影响其逼近性能,本项目基于启发式优化方法,提出一系列实现泛函网络的拓扑结构优化算法。(4)针对泛函网络研究所存在数学理论基础薄弱,提出了一些优化泛函网络神经元函数、拓扑结构数学理论,理论上证明了泛函网络与支持向量机、极限学习机等的等价性。 本项目研究所取得结果目的在于丰富泛函网络的理论及拓宽其应用范围,更为有效地解决科学研究和工程应用中出现的一系列新问题,推动人工神经网络交叉学科迅速地发展和完善,都有着非常重要的理论意义和应用价值。