本课题针对各种优化问题及相关问题设计基于Karush-Kuhn-Tucker(KKT)条件的递归神经网络簇进行求解。主要思想是"保留模块,改变连接",即固定已有网络的子模块,通过改变各子模块的连接关系得到一簇新网络。在此框架下研究了各种相关问题,包括线性规划问题、扩展线性-二次规划问题、1范数最优化问题、一般凸优化问题、变分不等式等,研究和比较了对应的神经网络的结构和性能特点,拓广了求解这些问题的神经网络模型的多样性,并对递归神经网络的理论发展起了较大推动作用。另外,研究了神经网络的应用。一方面针对机器人手臂运动规划问题、K-胜者为王问题、线性分配问题、支持向量机等工程问题提出了高效的神经网络求解方法,另一方面根据优化理论从记忆、比较和决策等方面进行了探索,提出了两个神经网络,部分地揭示了大脑的信息处理机制。最后,围绕上述研究在机器学习和人工智能的理论与应用方面进行了探索,提出了无限隐式支持向量机iLSVM和动态图上的K最优路算法。项目成果包括6篇国际期刊论文(含4篇顶级期刊),7篇国际会议论文(含1篇顶级会议)和一项教育部自然科学奖一等奖。
英文主题词Recurrent neural network; linear programming; convex optimization; variational inequalities; support vector machine