中文摘要：

多入多出(MIMO)预编码(precoder)设计是提高MIMO通信系统性能的有效手段。关于预编码设计的研究可以分为两大块。一是假定信道状态在发送方完全知道或者反馈信道不受限条件下进行预编码优化的研究。由于实际的反馈信道速率受限，所以需要对上述预编码矩阵进行量化后反馈给发送方。这就带来第二个问题，即对于预编码的有限码本的构造。传统上人们将这两个问题孤立的进行研究。在本项目的研究中我们把这两个问题统一为Stiefel流形优化问题。解决该一般性问题将一举两得，为MIMO预编码设计的两个方面都提供新的解决方法。由于该问题的高维性和非凸性，一般性的全局最优解是困难的。本文中我们提出了几种解决问题的思路，包括降维迭代，局部近似优化，以及利用问题的特性来寻求高效算法。我们在研究解决这些特定通信问题的同时，也将为发展流形上的优化理论本身而努力。

结论摘要：

本项目从单用户MIMO、多用户MIMO、以及存在中继节点时的MIMO通信场景这三个角度出发，研究了基于Stiefel 流形优化的MIMO预编码设计。 1）针对单用户MIMO场景，研究了基于最大化最小欧氏距离准则的MIMO预编码设计。利用此问题的几何特性和Stiefel 流形优化理论，提出了一种新颖的基于曲面膨胀的预编码方法，能够在两路或者三路数据流的情况下能获得最优的预编码矩阵。特别是，该方法仅需要根据信道的条件数就可以直接查表来获得对应的预编码矩阵，因而其复杂度极低。据课题组所知，在该方向上鲜见有研究成果发表，因此所提出的预编码方法弥补了这一研究方向的空白。 2）针对多用户MIMO场景，研究了多播系统中的预编码设计，包括支持单路数据流传输的波束赋形方案和支持多路数据流传输的预编码方案。当基站配备两根发送天线时，提出了一种获得全局最优波束赋形矢量的快速算法。迄今为止，这是唯一能保证获得最优波束赋形矢量的算法。对于基站配备更多发送天线的情况，利用降维迭代的思想，提出了降维迭代的设计算法，从而能够以较低的复杂度获得接近最优的波束赋形矢量。在两路或多路数据流的多播场景中，通过挖掘不同数据流的信噪比特性以及相互关系，将原来的Stiefel 流形优化问题转化成一个实矢量优化问题，提出了基于梯度搜索的局部优化的预编码设计方法和求解算法，具有复杂度低、性能优异的特点。 3）针对存在中继节点的MIMO通信场景，研究了预编码技术在中继系统中的应用，同时也对中继MIMO系统的性能进行了定量分析。对于单中继多向信道，利用信号空间对齐、网络编码、波束赋形等预编码技术，提出了一种无干扰的单中继多用户多向通信的实现方法，并对其性能进行了深入分析。在中继MIMO系统中，针对不同场景设计出了两种中继协作传输协议，不仅有效地提高分集增益，也改善了中继系统的可达速率。 基于上述研究工作，项目组在IEEE Trans. IT、IEEE Trans. WC、IEEE Trans. VT、IEEE Trans. IFS、IEEE Comm. Lett. 等核心学术期刊，以及ICC等重要国际学术会议上，发表相关研究论文11篇，投稿4篇（在审），顺利完成了项目的研究任务。