在基站和移动终端都采用多天线的多输入多输出（Multiple-InputMultiple-Output，MIMO）技术是未来移动通信系统的关键技术之一。3GPP在超3G研究的技术基础上提出了第三代移动通信系统的演进版本LTE技术，LTE技术的主要特征就是采取频分多址作为空中接口技术，并采用MIMO技术以及链路自适用技术等，可以很好的提高数据传输速率，增大系统容量及小区覆盖范围，降低运营成本。为了应对WiMAX的竞争，3GPP又推出了LTE长期演进LTE-Advanced，以获得高速率、低误码率、低延时、高服务质量。LTE-Advanced是现有LTE核心技术上的平滑演进，可以兼容原LTE的全部功能，且引入了载波聚合技术，多天线扩展技术，协作通信，以及中继技术等新技术。然而，当把MIMO技术应用到多小区，特别是下一代移动通信系统LTE-Advanced中时，为了提高频谱利用效率，小区频率复用因子为1，存在严重的区间干扰，尤其是小区边缘用户受到严重的小区间干扰，导致边缘用户数据速率大幅度降低，即多小区MIMO系统沦为一个干扰受限系统。因此小区间干扰抑制的研究，具有深远的意义。传统的多区联合的方法，虽然可以消除区间干扰，但是基站需要获得所有用户的信道状态信息，信息量很大，并且由于信道估计误差、反馈时延和反馈信道带宽的限制，基站很难获得完全的信道状态信息。本文针对以上问题，对多小区MIMO系统中的干扰抑制问题进行研究。研究的主要内容包括:提出了一种多区协同干扰抑制算法。将小区内用户分为中心用户和边缘用户，分别采取不同的预编码方法抑制干扰，与传统的多区协同方法相比，既减少了系统复杂度，又保持了原有的性能。本文还针对干扰抑制过程中如何有效降低上行链路的反馈量展开研究。提出了一种多用户MIMO系统有限反馈预编码算法，通过对用户信道矩阵进行量化，每个用户仅仅需要反馈一个序号，而不是整个信道矩阵，从而大大减少了反馈量。仿真结果表明，保持了系统性能。同时，还分析了信道矩阵误差对于新方法性能的影响，得到了系统吞吐率同信道矩阵误差的方差，以及基站发射功率三者的关系，并通过仿真进行验证，从而为评估信道估计和量化过程的优劣提供了理论依据，具有良好的应用前景。文章还介绍了有限反馈码本的设计方法，并对容量进行了仿真分析，验证了码本设计的有效性。