双极化Massive MIMO系统通过在基站部署大量双极化天线阵列有效的提升系统容量、能量效率以及系统鲁棒性,成为5G关键技术之一。而导频污染引起的小区间干扰不会随着天线的增加而消失,成为限制双极化Massive MIMO系统性能提升的瓶颈。引入极化可以扩展无线资源的自由度,有利于解决导频污染问题,因此利用极化域无线资源研究有效的导频污染抑制算法是非常必要的。论文选题来源于国家自然科学基金项目“基于相位噪声加性高斯化的全双工极化自干扰消除研究”(项目编号61501050)。在双极化Massive MIMO系统中,本文充分利用极化域无线资源提出了两种导频污染抑制算法。在上行传输中利用双极化天线的正交极化特性提出了基于正交极化的信道估计算法;在下行传输中考虑双极化信道中的空间衰落与去极化效应并进行估计,提出了基于大尺度衰落因子与交叉极化鉴别(Cross Polarization Discrimination,XPD)估计的预编码算法,从而降低了导频污染的影响。本文具体研究内容如下:(1)论文系统阐述了双极化Massive MIMO系统的相关研究,主要包括双极化Massive MIMO系统信道模型、上下行传输过程以及极化信息处理和去极化效应,并详细总结了导频污染产生的原因、造成的影响以及导频污染抑制算法的研究现状。在此基础上探讨了极化在抑制导频污染上的优势与挑战,指出利用极化域无线资源研究导频污染抑制算法是提升双极化Massive MIMO系统性能的关键。(2)针对导频污染限制信道状态信息(Channel State In formation,CSI)准确性这一问题,本文提出了基于正交极化的上行信道估计算法。该算法首先在双极化信道中对XPD建模,利用双极化天线的正交极化特性将双极化信道进行分解;然后对导频污染产生的干扰部分和噪声的组合项进行无偏估计,从而得到基于正交极化的双极化信道估计矩阵。理论分析与仿真结果表明该算法降低了导频污染下的估计误差,并且复杂度低于最小均方误差(Mimimum Mean Square Error,MMSE)估计。与单极化天线系统相比,存在去极化效应XPD时,所提算法中双极化天线的正交极化特性明显降低了估计误差,能有效抑制导频污染对CSI准确性的影响。(3)双极化信道中的空间衰落与去极化效应限制了预编码的性能,导致导频污染的抑制效果不理想,针对这一问题本文提出了基于大尺度衰落因子与XPD估计的下行预编码算法。该算法首先进行最大比传输(Maximum Ratio Transmission,MRT)预编码,利用功率控制策略得到预编码矩阵的功率因子;然后用户利用基站发送的导频序列估计大尺度衰落因子与XPD以此重构下行信道估计矩阵;最后基站计算基于大尺度衰落因子与XPD估计的预编码矩阵,并对下行数据进行预处理。理论分析与仿真结果验证了所提算法可有效抑制导频污染,提升导频污染下的和速率。为了有效抑制导频污染,降低信道估计误差,提升双极化Massive MIMO系统的和速率,本文利用极化域无线资源在上下行传输中研究不同的导频污染抑制算法,分别提出了基于正交极化的上行信道估计算法和基于大尺度衰落因子与XPD估计的下行预编码算法。研究结果表明所提算法能有效降低估计误差,提升导频污染下的和速率,为导频污染抑制算法研究提供了新思路。