超密集异构网,作为未来5G网络的重要特征之一,主要通过密集部署小基站来满足不断激增的通信需求。但不断增加小基站的部署,也使得传统的蜂窝网络朝着异构化,随机化和复杂化的新型网络架构发展,这带来一系列新的挑战。首先,基于传统格型网络的系统级仿真方法已经不能很好捕捉网络的特性,不能给出准确的分析结果。其次,随着基站更加密集部署,以及最大化频谱利用率而采用同频组网方式,均使得超密集异构网络中小区间干扰问题日益严重。本文首先给出超密集异构网络在齐次泊松点过程和泊松簇点过程下基站位置建模分析,并推导了用户的中断概率指标。基于这一指标分析对比了不同点过程下对基站分布建模的准确性。仿真结果表明,采用基于完全随机齐次泊松点过程不能反映基站之间的相关性,而采用泊松簇过程可以反映出热点区域基站的分布,同时很好弥补了完全随机点过程的随机覆盖空洞,使的用户的中断概率更低。其次,针对超密集异构网中由于小基站采用小区覆盖增强技术导致严重小区间的跨层干扰问题,本文主要以两层超密集异构网络为研究场景进行时域干扰协调技术分析。推导了服从泊松点过程的基站分布模型下用户中断概率、用户频谱效率以及网络平均遍历容量等指标。考虑到采用时域干扰协调技术时几乎空白子帧比例分配方法过于复杂的情况,给出一种改进的基于最佳小区偏置值的动态几乎空白子帧的分配算法。最后数值仿真结果表明,与采用空白子帧比率按照经验设置为固定值的静态空白子帧分配方案相比,整个网络平均遍历容量有所改善。最后,基于齐次泊松点过程的基站分布模型,进行了基于多小区协作的小区间干扰技术的研究。针对于多小区协作技术中用户联合传输时基站分组问题和协作用户选择问题,以及采用时域干扰协调时边缘用户频谱效率低问题,给出基于多小区协作的时域干扰协调方案。该方案通过在覆盖增强区域外围进行跨层基站协作的方式为边缘用户进行联合传输,不仅改善了覆盖增强区域边缘用户低信干比的问题,而且仅对覆盖增强区域边缘用户进行协作也大大降低了回传信令开销。实验结果表明,采用基于偏置值的多小区协作方案相比于不采用小区间干扰协调技术,降低了用户的中断概率。同时所给的基于多小区协作的时域干扰协调技术相比于时域干扰协调方案,使得覆盖增强区域的边缘用户的频谱效率提升和网络平均遍历容量增加。