中文摘要：

凸集分离性定理在泛函分析、凸优化以及经济等领域起着非常重要的作用。为了处理非凸情形，一些针对闭集的分离性结果在变分分析框架下被建立，不幸的是这些现代变分分析意义下的分离性结果那怕是限制在非常简单的凸集情况也不能实现经典的分离。为着理论也为着给应用领域提供更有力的工具，本项目将尝试建立包含经典凸集分离定理及变分分析中分离性结果的更一般分离性定理。我们期望应用这样的分离性定理建立向量优化问题近似Pareto解的对偶优化条件以及weak sharp minima性质。没有紧性条件，目标函数有界时不必有精确优化解，对于复杂的向量优化问题，向量目标函数有界时甚至近似优化解都不必存在。本项目将研究具有几何约束以及锥不等式约束下向量优化问题的近似Pareto解；我们将提供向量目标函数在可行集上有界时存在近似Pareto解的可验证条件，并将建立近似Pareto解的Lagrange和KKT型优化条件.

结论摘要：

凸集分离性定理在泛函分析和凸优化等领域起着非常重要的基础性作用。为了处理非凸情形，一些针对闭集的分离性结果在变分分析框架下被建立，不幸的是这些现代变分分析意义的分离性结果那怕是限制在非常简单的凸集情况也不能实现经典的分离。为着理论上的兴趣也为着给应用领域提供更有力的工具，本项目通过法锥建立了包含经典凸集分离定理及变分分析意义分离性结果的统一分离性定理。使用该分离性定理以及变分分析方法和技巧，我们研究了约束向量优化问题的近似Pareto解；我们提供了向量目标函数在可行集上有界时存在近似Pareto解的可验证条件，并通过法锥和向量函数的coderivative建立了近似Pareto解的Lagrange和KKT型优化条件。此外，我们还研究了约束向量优化问题KKT点和近似KKT点的稳定性。在目标空间是实数域的特殊情况下，我们也考虑了半无穷优化问题的优化条件。 目标函数经扰动后误差界的稳定性是优化和变分分析中广受关注的问题，本项目研究一类重要而广泛的非凸系统---次光滑不等式系统，特别地通过次微分首次给出了次光滑不等式系统误差界有稳定性的特征。我们也研究了与误差界密切相关的度量正则性和度量次正则性。就弱次光滑函数列，我们建立了对应次微分序列收敛性定理，并将Attouch定理从凸以及primal-lower-nice函数列情况推广到次光滑函数列情况。本项目也在Banach空间框架下建立了具有二阶变分行为的proximal法锥理论。