矩阵奇异值分解、非线性特征值计算、主成分分析、张量分析、0-1整数规划等重要的数学模型被广泛应用于机器学习、材料科学、医学统计、影像压缩、管网设计等工程领域,而这些数学模型都可化为满足一些特殊流形约束的矩阵优化问题。由于矩阵的流形约束通常结构复杂并且是非凸的,一般来说,求解这类问题的全局极小是NP难的;而当目标函数带有非光滑项,或者问题同时带有其它形式的约束时,求解问题的局部极小也变得非常困难。基于此,本项目主要研究几类具有代表性的矩阵优化问题,并将分别针对这些问题的特性设计若干高效、稳定的算法。本项目还将对部分模型的最优性条件以及所设计的算法的收敛性进行理论分析,以期达到理论创新和方法创新的统一。本项目不仅可以促进我国最优化及相关交叉学科研究的发展;所提出的新方法还能被广泛地应用到我国"十二五规划"所涉及到的一些重点发展领域,为我国全面建设小康社会的发展目标作出新贡献。
eigenvalue decomposition;singular value decomposition;low rank optimization;alternating direction method;self consistent iteration
随着科学技术的不断进步和最优化研究的不断发展,经典的以欧式空间中向量为变量的优化模型已经不能满足各应用学科深入发展的需求,而以矩阵为变量的优化模型(矩阵优化模型),因其能够刻画更多的经典优化模型无法描述的应用问题,开始发挥越来越关键的作用,并成为最优化研究的一类新热点。最近二十年里,大量关于矩阵优化模型的理论和算法研究的涌现更是推动了矩阵优化成为被应用学科广为认可和使用的重要优化模型。矩阵优化问题具有内容新、涵盖面广、理论丰富、难度大、应用背景广泛等特点。部分矩阵优化问题和我国“十二五”规划中提到的一些重点发展领域和目标,如生命科学、信息网络、新型材料、纳米科技以及建设资源节约型社会,有着密切的联系。在大数据时代,矩阵优化模型将成为分析大数据最有力的工具之一,而矩阵优化算法的优劣将直接决定人们使用数据、分析数据的能力。 在本项目资助下,我们开展了关于研究矩阵特征值、奇异值分解;非线性特征值问题;矩阵低秩分解这三类矩阵优化问题的理论及在大数据背景下的应用研究,取得了一些振奋人心的结果。具体研究成果概括为如下三个方面我们根据不同应用背景下特征值问题目标矩阵的不同特性,找到相对应的计算瓶颈,针对具体的瓶颈问题,设计新的算法克服这些问题,我们设计的矩阵奇异值分解的软件包性能稳健;矩阵完整化与主成分分析等矩阵低秩优化问题是稀疏优化问题的一个重要组成部分,在本项目中我们分析了对于非凸的稀疏优化问题的交替方向算法的收敛性;非线性特征值问题是材料计算中的关键问题,求解非线性特征值的自洽场迭代算法是求解非线性特征值问题最基本的算法,然而收敛性却是未知的,我们系统分析的自洽场迭代算法,给出了自洽场算法收敛性的条件,比已有结果更强、具有更广泛的适用性。 总之,在本项目的资助下,我们完成了申请项目时的既定目标。将来我们会在基金委其它项目的资助下,对矩阵优化这一主题继续探索下去,为我国的优化科研事业添砖加瓦。