2020年及未来,用户日益增长的多样化业务需求推动着移动通信新技术的发展,蜂窝组网的特点日渐趋向于超密集、高速率、高容量和分层异构化。大规模多天线(Massive MIMO)技术能够有效地提高系统频谱效率和系统容量,实现高速率和高稳定性的信息传输。分层异构网络(Heterogeneous Networks,HetNets)作为5G的关键技术,促进着网络技术的融合。大规模MIMO技术与分层异构网络相融合,通过改善小区边缘覆盖和热点区域重点覆盖,实现了更有效地覆盖整个小区。在不增加天线及频谱资源的基础上,有效地提升了频谱利用率和吞吐量。但同时也引入了更加复杂的干扰类型。因此,研究大规模MIMO异构网络干扰协调技术在实际应用中具有非常重要的意义。在充分理解和挖掘空间自由度的基础上,明确大规模MIMO异构网络干扰协调技术的关键问题,然后提出有效的改进方案。围绕着该研究思路,本文进行了以下工作:大规模MIMO异构网络系统空间干扰类型复杂,通过深度挖掘空间资源,提出一种基于“空间消隐”的干扰协调方案。以多用户系统为研究对象,对空间进行不同维度的划分,利用设定判决门限的方式,设计用户分组算法,对用户进行更加精确的划分。该算法主要解决了干扰抑制和系统用户容量提升的问题。仿真结果表明,该方案能够提升小区边缘用户容量,性能优势优于传统方案。分层预编码技术解决了传统预编码在大规模MIMO系统中算法复杂度大的问题,干扰对齐技术能够有效提升干扰网络的容量。结合两种算法的优势,在大规模MIMO异构网络系统中,提出一种最大信干噪比分层干扰对齐预编码改进算法。该算法避免了由于反复迭代产生的开销,降低了算法的计算复杂度。仿真结果表明,该算法能够有效提升系统容量,提升用户信干噪比,降低系统误码率,性能优势优于传统方案。