整体最小二乘法不仅考虑观测向量的误差而且还考虑系数矩阵的误差,平差理论相对更为严密。在研究经典整体最小二乘法的基础之上,对系数矩阵元素是表达式或函数情况的非线性整体最小二乘模型进行了描述,用拉格朗日极值条件式推导了基于牛顿型解法的非线性整体最小二乘平差计算公式,并设计了一种对应的迭代算法。最后设计了两组模拟试验分析在观测向量和系数矩阵的输入向量等精度观测和非等精度观测两种情况下参数和验后方差的估计特点。试验结果表明,非线性整体最小二乘平差法获得的参数估计值比最小二乘平差法获得的估计结果更接近参数的实际值,方差分量(或中误差)估计结果也更接近先验值,本文给出的迭代算法是有效的。