中文摘要：

非凸对称锥优化是目前非常活跃的研究领域，无论在组合优化、控制论、不确定优化、鲁棒优化、博弈与均衡理论等研究方向，还是在经济、管理、交通、通信和工程设计等实际部门，都有着极其广泛和重要的理论及应用价值。目前线性对称锥优化的理论和算法的研究非常成功，但是非凸对称锥优化问题的研究工作还不多，因此系统的研究非凸对称锥优化的理论和算法意义重大。本项目基于Jordan代数的系统理论，建立对称锥的变分分析，包括切锥、二阶切集与投影算子的Clarke广义微分理论等等。基于所建立的对称锥的变分分析，刻画非凸对称锥优化问题的二阶最优性理论，尤其研究与算法收敛速度分析密切相关的KKT系统的强正则性和稳定性。从必要性条件入手，对求解非凸对称锥优化问题的序列二次规划方法与Newton方法进行系统的研究，并把得到的理论与算法推广到对称锥变分不等式与互补问题中，推动对称锥优化研究的进展。

结论摘要：

非凸对称锥优化是目前非常活跃的研究领域，无论在经济管理、交通、工程设计、通信等实际应用部门，还是在线性代数、数值优化、组合优化、控制论、不确定优化、鲁棒优化、博弈与均衡理论以及统计等理论研究方向均有重要的应用。而目前绝大多数优化问题都可以归纳到非凸对称锥优化这个框架之下。特别随着近年来优化理论和算法的不断完善，许多原来很难解决甚至不能解决的问题都可以转化为对称锥优化问题的模型，然后通过对此模型的求解，得到比较满意的结果。因此系统地研究非凸对称锥优化问题的理论和算法意义重大。本项目的主旨是以变分分析和Jordan代数的系统理论为基础，刻画非凸对称锥优化问题的最优性理论与算法，并应用到求解对称锥变分不等式与互补问题中。三年来本项目的研究成果主要体现在三个方面 一、建立了对称锥投影算子的微分理论，借助于最新的研究成果，刻画了对称锥的变分几何与相应的对称锥优化问题的最优性理论，得到了二阶最优性条件包括利用线性-二次函数定义的强形式的强二阶充分性条件、利用二阶切集上支撑函数定义的弱形式的强二阶充分性条件，KKT系统对应方程的Clarke广义微分在KKT点的非奇异性，以及KKT系统的解的强正则性和优化问题局部最优解的强稳定性之间的关系； 二、构造求解非凸对称锥优化问题的相关算法，并分析了算法的收敛速度；同时研究了约束非线性方程组的算法，包括利用有效集算法和多维滤子信赖域算法求解大规模界约束问题，以及几种具有高阶收敛速度的算法，以期可以推广到求解锥优化问题的算法设计上； 三、考虑对称锥约束的变分不等式问题，在自然映射与法映射的基础上，借助于Lipschitz同胚的性质，从多个方面刻画了变分不等式问题解的强正则性与强稳定性，为设计求解变分不等式问题的算法，分析收敛速度奠定了理论基础。特别地，以半正定矩阵锥约束变分不等式问题为例，定义了矩阵锥约束变分不等式问题的二阶最优性条件，在其稳定点处建立了矩阵锥约束变分不等式问题的稳定性理论。