MIMO 干扰信道中基于非线性预编码的收发机设计 王炜 徐凌泽 周语宁 潘鹏 杭州电子科技大学通信工程学院 摘 要： 针对多输入多输出 (MIMO) 干扰信道中所存在的收发机间和数据流间的共信道干扰, 提出一种基于非线性 THP (Tomlinson-Harashima Precoding) 预编码的收发机联合设计方法, 以最小化系统总均方误差 (MSE) 为目标函数, 通过交替迭代寻找局部最优解, 从而得到接收矩阵, 发射预编码矩阵和反馈矩阵。仿真结果表明, 所提出的算法能够有效抑制 MIMO 干扰信道中的共信道干扰, 尤其是在发射机发送满数据流时, 能够获得比线性收发机联合设计方法更优的差错性能。关键词： MIMO 干扰信道; 非线性预编码; 收发机联合设计; 迭代优化; 总均方误差; 满数据流; 作者简介：王炜 (1993-) , 男, 硕士研究生, 主研方向为 MIMO 预编码;作者简介：徐凌泽, 本科生;作者简介：周语宁, 本科生;作者简介：潘鹏, 副教授 E-mail:panpenghdu.edu.cn基金：国家自然科学基金 (61401130) Transceiver Design Based on Nonlinear Precoding in MIMO Interference ChannelWang Wei Xu Ling Ze Zhou Yu Ning Pan Peng School of Communication Engineering, Hangzhoudianzi University; Abstract： Aiming at the co-channel interference between transceivers and data streams in multi-input multiple-output (MIMO) interference channel, a joint nonlinear THP precoding transceiver design method is proposed to minimize the total mean square error (MSE) , and the local optimal solution is found by alternating iterations to obtain the receiver matrix, the transmit precoding matrix and the feedback matrix. The simulation results show that the proposed algorithm can effectively suppress the co-channel interference in the MIMO interference channel, especially when the transmitter sends a full data stream, and it can obtain better error performance than the joint linear transceiver design method.Keyword： MIMO interference; non-linear precoding; transceiver design; iterative optimization; total mean square error; full data stream; 1 概述多输入多输出技术能够有效地提升无线通信系统的频谱效率和链路可靠性, 因此得到了学术界和工业界的广泛关注。同频组网则是在第四代移动通信标准化过程中所提出的概念, 然而在提升频谱效率的同时, 也将导致小区间的共信道干扰, 并对小区边缘用户的服务质量产生恶劣影响1。对于上述场景, 一般可将其抽象为 MIMO 干扰信道模型进行分析, 并以此研究如何消除共信道干扰。在 MIMO2中, 正交空时分组码是一个主要的编码方式, 具有最大码率与最小延迟的优点。论文3首次给出了一类正交空时分组码最小延迟公开猜想的反例;论文4首次提出通过适当降低码率从而降低延迟的思想来构造正交空时分组码, 并给出了具体的构造方法;论文5解决了一个平衡正交空时分组码最小延迟的一个猜想。在 MIMO 干扰信道6中, 包含了 K 对配置多天线的收发信机, 每个多天线发射机仅与其对应的多天线接收机进行通信, 并且每个接收机只关心从所对应的发射机发送来的信号, 而将其他信号视为干扰信号7。为了消除这 K 对收发机的相互干扰, 一个基本思想是利用多天线所带来的空间自由度, 对共信道干扰提前进行抑制或消除。对于 MIMO 干扰信道, 干扰对齐技术目前被广泛应用于MIMO 干扰信道的干扰抑制中8-9。一般来说, 干扰对齐技术通过将共信道干扰对齐到同一个信号子空间, 并使期望信号与该子空间正交, 从而消除干扰。然而, 干扰对齐技术往往只考虑对干扰的处理, 而忽略了信号本身和噪声的影响, 导致中低信噪比区域系统性能的损失10。基于此, 不少文献提出了基于收发机联合设计的 MIMO 干扰信道干扰抑制技术。例如, 文献11提到了基于最大化最小信干噪比准则的预编码矩阵设计方法;文献12以最大化权值总速率为优化目标, 提出了线性收发机设计方法;文献10提出了基于最小化总均方误差和最小化每个用户的均方误差这两个准则来设计收发机处理矩阵, 但是该方法在发射为满数据流时, 性能会变的较差。目前大部分关于 MIMO 干扰信道的收发机联合设计算法主要考虑线性的处理方法, 而对于非线性的收发机联合设计方法研究较少。在文献13中, 提出了有界信道误差的 THP 收发机设计, 通过把问题转为半正定规划问题, 给出了最优的收发处理矩阵。但是, 该方法的解需要利用计算机搜索获得, 并没有给出显式的收发矩阵表示。本文提出一种基于 THP 的最小化接收信号总均方误差的收发机联合设计方法。相比于文献10, 能够在并行数据流较大的情况下, 获得更好的差错性能;相比于文献13, 能够获得收发矩阵的显式表达, 更利于实际系统实现。2 系统模型本文所研究的 K 个用户 MIMO 干扰信道系统模型如图一所示。在该系统中, 共有K 对收发信机, 其中接收机 k (k=1, 2, , K) 只接收来自发射机 k 的信号, 而把来自于其他发射机的信号看成干扰。考虑每个发射机配置有 N t根发射天线, 接收机有 Nr根接收天线, 每个发射机能同时发送的数据流个数为 Nk, 且有N kmin (N t, N r) 。因此, 在该系统中, 除了 K 对收发信机间存在共信道干扰, 同一对收发信机的不同数据流间也存在共信道干扰。为了抑制收发机间以及数据流间的干扰, 本文考虑在发射机端采用非线性的THP 预编码14, 并以最小化系统总均方误差为优化目标, 使得在 N k较大的情况下 (例如 N K=N t=N r) , 仍能取得较好的差错性能。假设第 k 个用户的输入数据流为 , THP 预编码器通过反馈矩阵 B k和取模操作实现流间干扰的连续消除操作。其中, 反馈矩阵 是对角线元素均为 1 的下三角矩阵;MOD m () 为取模操作, 可以表示为 , 这里参数 m 表示 QAM 调制的调制阶数, 则表示向下取整。为了便于分析, 将发射机端的非线性取模操作等效为如图 2 下半部分所示的线性操作, 此时相当于在原始数据矢量上加上一个扰动矢量 , 也即 vk=xk+d k。信号矢量经过取模操作后可表示为 uk, 则第 k 个用户的第 n 个子流的信号可以表示为15:图 1 MIMO 干扰信道中的 THP 收发机模型 下载原图其中, 为 uk的第 n 个元素, b k, ij表示位于矩阵 Bk第 i 行和第 j列的元素。根据图 2 所示, 可以得到 。图 2 非线性取模操作的线性等效模型 下载原图在接收端, 第 k 个接收机获得的信号可以表示为:其中, 表示第 k 个接收机接收到的信号矢量。 表示第 j 个发射机到第 k 接收机的信道矩阵, 其元素为独立同分布的零均值高斯变量。 第 k 个发射机的发射矩阵, 并且有发送功率限制, Pk表示第 k 个发送机发送的最大功率。 为复高斯白噪声, 即接收机在获得 y k后, 采用接收滤波矩阵 对接收信号进行处理以抑制共信道干扰, 提高接收信号的信干噪比, 从而可得:最后, 通过对 vk取模运算获得关于发送数据的估计 。3 基于 MSE 的 THP 收发机联合设计根据图 1 所示的系统模型可知, 为了实现对共信道干扰的消除, 需要对收发两端的反馈矩阵、发射矩阵和接收滤波矩阵进行联合设计优化, 即在某种目标函数下, 联合设计矩阵 B k、W k和 Gk (k=1, 2, , K) , 使得系统性能达到最佳。为了简便起见, 分析过程将忽略 THP 预编码所带入的信号成形损耗 (Shaping Loss) ;同时, 考虑发射机能够进行协作, 且共享信道信息, 即全局信道状态信息在发射端是完整已知的。在上述条件下, 以最小化系统总 MSE 为原则设计接收矩阵 Gk、发射矩阵 Wk和反馈矩阵 B k。对于第 k 个用户的均方误差, 可定义为:将 (3) 式及 代入 (4) 式, 可得:由于数据与噪声可以认为相互独立, 即 ;同时, 不同用户间的数据也可以认为相互独立, 因此有 , 且满足归一化条件 。根据上述假设, 式 (5) 可进一步写成:因此, 若以系统总 MSE 最小化为优化目标, 则本文的优化问题可以规划为:其中 , 且 ei为 IkN的第 i 列。问题 (7) 是一个非凸问题, 并且难以获得全局最优。因此, 本节提出一种迭代算法来解决该问题, 即以交替的方式分别优化 Gk、W k、和 Bk, 对于所有的k1, , K。为此将通过三步骤来解决问题 (7) :在每次迭代中, 首先固定发射矩阵 W k和反馈矩阵 Bk来优化 Gk;接着通过使用已获得的接收矩阵 G k和反馈矩阵 Bk来优化发射矩阵 W k;最后, 基于上述两步骤得到的 G k和 W k来优化反馈矩阵 Bk。下面将对上述步骤进行详细说明。在给定发射矩阵 W k和反馈矩阵 Bk后, 为了使系统总 MSE 最小, 第 k 个接收机的接收矩阵 G k应满足如下条件:将式 (6) 带入式 (8) , 经过化简后, 在给定 Wk和 Bk条件下, 使系统总 MSE 最小的接收矩阵 G k可以表示为16:接下来考虑发射矩阵 Wk的获取。在给定 G k和 Bk后, 为使系统总 MSE 最小, 发射矩阵 W k可以通过求解问题 (7) 获得。考虑到问题 (7) 中的功率限制, 可以使用拉格朗日乘数法来求解该问题。拉格朗日函数可表示为:其中, 为拉格朗日乘子。通过使 , 能够获得使系统总 MSE 最小的 W k为:其中, 松弛条件为:为了获取 k, 首先令 , 并对 Tk进行 SVD 分解, 得到 Tk=Uk kU k, 然后将其带入 tr (WkWk) 有其中, k=UkHk, kG k Bk Bk G k H k U k, k表示矩阵 k第 i 行第 i 列的元素。 k表示矩阵 k第 i 行第 i 列的元素。因此拉格朗日乘子 k (k=1, K) 可以通过二分法得到且为非负的实数。如果拉格朗日乘子 k (k=1, K) 不存在, 则令拉格朗日乘子为 0。最后, 我们考虑反馈矩阵 Bk的设计。首先, 将如式 (9) 所示的第 k 个接收机的接收矩阵 G k代入式 (6) 所示的 MSEk中, 化简可得上式第二个等号利用了矩阵求逆定理。为了最小化系统总 MSE, 在给定 G k和