中文摘要：

变量是正交矩阵的优化问题出现在科学与工程中的很多重大应用中，如p-调和流理论，线性与非线性特征值问题， 组合优化问题的松弛解，二次分配问题，统计中的稀疏主成份分析和最近协方差估计，信号和图像处理领域中快速发展的压缩感知和低秩矩阵优化，低温电子显微镜重构问题，X-光晶体学中的相位问题等等。由于正交约束的存在，这些非凸的优化问题可能存在很多局部最优解，求解一般非常困难。本项目研究正交约束问题的理论和方法，针对这些问题的特殊结构设计计算量小行之有效的保正交约束的算法，给出这些方法的收敛性，算法复杂度和全局最优可达条件等理论性质，并将这些算法应用到一些重大实际问题。此研究由于多个学科的交叉，挑战性强，能推动数学规划学科的纵深发展。 本项目对于带一般微分流形优化的研究具有前沿性和探索性。

结论摘要：

本项目研究变量是正交矩阵的优化问题。由于正交约束的存在，这些非凸的优化问题可能存在很多局部最优解，求解一般非常困难。本项目研究了正交约束优化问题的保正交约束的梯度算法，进行了算法复杂度和收敛速度等分析。同时对于一些特殊情形，我们得到一些很有意义的全局最优条件，相应结果发表在Mathematical Programming上。该算法在求解Kohn-Sham方程方面的应用发表在SIAM Journal on Scientific Computing。设计了大规模奇异值分解的有限内存子空间算法，改进了当前使用广泛的子空间方法(LOBPCG)，发展了软件包LMSVD，分析了算法的收敛性质，对一些大规模无结构稠密矩阵的奇异值分解计算效果优势很明显。相应结果发表在SIAM Journal on Scientific Computing。研究了模拟物质微观结构的Kohn-Sham（KS）方程，设计了正则化自洽场迭代，相应结果发表在SIAM Journal on Scientific Computing。建立了保证自洽场迭代算法收敛性的一些结果。相应结果发表在SIAM Journal on Matrix Analysis and Applications。在低温电子显微镜图像重构方面的工作发表在SIAM Journal on Imaging Sciences。在三维曲面映射方面的工作被Journal of Scientfic Computing相应结果发表在Journal of Scientfic Computing。在相位恢复方面的工作结果发表在Inverse Problems。在分散式稀疏优化方面的工作结果发表在IEEE Transactions on Signal Processing。