中文摘要：

我们研究退化k-Hessian方程Dirichlet问题的解的正则性或部分正则性，并应用到非线性光学中一个强非线性的椭圆型问题解的性质研究。当非齐次项光滑但在边界上退化时, 寻找边界值函数,严格的（k-1）凸边界以及非齐次项三者之间的相容性条件,以保证全局光滑解的存在性。建立N.V.Krylov 的（退化）正则性理论和N.Trudinger的边界向量场方法之间的联系,得到解的二阶法向导数的边界估计;构造类似于研究Monge-Ampere方程的Legendre变换，把k-Hessian方程转化为一类散度型拟线性退化椭圆方程组，由此得到解的所有二阶导数的连续模估计。当非齐次项仅关于部分变量光滑时，首先利用Levi基本解方法，得到Poisson方程和一致线性椭圆方程解的部分正则性，进而得到非退化k-Hessian方程线性化方程以及本身解的部分正则性，最后得到退化k-Hessian解的部分正则性

结论摘要：

从微分几何的角度来说，k-Hessian方程来自于Christoffel-Minkowski问题，特别地，当k=1时，k-Hessian 方程即为平均曲率方程；当k=n时， k-Hessian方程即为Monge-Ampere 方程，它对应于给定曲率的Minkowski问题。当非齐次项非负时，方程可能是退化的。在本项目中， 我们研究k-Hessian方程解的正则性，得到如下主要结果当k>1时，证明一类完全非线性二阶抛物方程解的先验估计; 在得到退化k-Hessian方程的二阶多项式解的完全分类后，证明其光滑局部解存在性，以及在一定条件下， 凸解的存在性；当k=1时，讨论在多种位势条件下，非线性Schrodinger方程的变号解的存在性及其渐近性态。其意义在于得到完全非线性二阶抛物方程解的内部的部分正则性，推广了相应的线性方程的经典的内部的正则性结果；找到了判定k-Hessian方程的线性化算子的一致椭圆性的充分必要条件；与通常的认知不同，在具有变号和消失位势的条件下，证明关于非线性Schrodinger方程的变号基态解的存在性。