研究具有联想记忆功能的非对称人工神经网络的一般理论和设计方法,动力学和统计性质,以及在汉字识别方面的应用。把神经网络的设计问题看成是限制性最优化问题来处理,寻找能够设计给定对称度的非对称神经网络的设计规则,研究神经网络模型的特性功能和非对称度的关系,研究非对称网络对于随机的模式和有关联的模式存储特性的异同,寻找特别适合于汉字识别的设计方法和参数区。非对称神经网络模型更加接近生物神经网络的特点,这方面系统的理论和方法还很缺乏,我们的初步研究已表明非对称模型具有比对称模型更有意义和价值的特性,最重要的特性是非对称网络可以完全消除伪记忆模式,从而使得人工神经网络并行处理信息的特点有效发挥。这一项目首次提出设计用于模式存储和识别的非对称模型的一般规则,把系统功能和网络的对称度联系起来,并且有可能促成神经网络方法在汉字识别等领域的实用化。因此对于人工神经网络理论的完善和实用具有重要意义。
本项目提出一套人工神经网络的全新设计理论盒方法,同时对新方法设计的网络的动力学特性进行了初步研究。这套理论由以下几个方面组成(1)针对所有样本进行整体设计从而得到整体最优的解;(2)设计目标针对神经元局域场分布而不直接针对网络输出;(3)设计算法采用蒙特卡洛算法,即对神经元连接进行随机变异-优化选择以实现特定的局域场分布。试通过几年的调研和对比研究,已经清楚我们的学习算法是一种新的整体学习规则,这种算法在许多方面优越于已有的规测。在单层网络方面,我们的算法设计的反馈网络具有丰富的动力学特性,在不同的参数区可能具有混沌相,纯记忆相和混合相,我们对反馈网络的动力学特性和权值矩阵的特征值谱之间的关系进行了初步揭示。在多层网络方面,我们的方法设计的网络在模式识别(美国邮政编码手写体数据库)以及函数拟合方面明确优越于传统的反传算法(在神经网络领域目前大部分的应用网络是反传算法设计的),我们的算法收敛速度也明显优越于传统算法。另外我们的方法可以设计权值离散的神经网络。本项目执行的不足之处是许多重要的成果还没有正式发表。