中文摘要：

基于数字信号处理技术的相干检测光纤通信系统是当前光通信领域的研究热点和重要发展方向，是未来灵活、高速、大容量光通信系统和网络的支撑技术，该领域的研究具有重要的科学意义和应用价值。本课题以相干检测光通信系统的非线性光纤传输问题为中心，在理论和实验两方面取得了如下成果建立了100G相干光正交相移键控系统及1T相干光单载波频分复用系统实验平台；阐明了不同色散管理方案情况下信道内非线性引起的相位噪声的统计特性；比较了光正交频分复用和光单载波频域均衡系统的性能，证明后者有更大的非线性容限；提出简化的信道反转方法，以较小的复杂度在相干接收端实现光纤非线性和色散的后补偿；提出基于Volterra理论的非线性电均衡器方案,首次在相干接收机中实现了无需预知信道参数的信道内非线性自适应补偿，可以应用于动态路由光网络;发展了基于通用指数函数集的概率密度拟合方法，解决了存在非线性传输损伤时相干正交相移键控系统误码率估计问题。本课题在相干光通信系统非线性损伤的物理机制与误码率评估，以及基于数字信号处理的非线性损伤电均衡技术方面取得了创新性成果，将为相干检测光纤通信系统的实际应用提供理论指导和技术方案。