随着移动用户和移动连接设备的疯狂增长,移动宽带数据流量经历了空前的增长。思科预测到2019年将有115亿移动设备连接,全球月移动数据流量将达到2014年的10倍,即24.3艾字节。寻找到合适、有效而且能够实际应用的下一代通信技术,即B4G或者第五代移动通信技术(fifth generation,5G),将是满足这一需求的关键。5G需求主要包含3个方面,即速率需求、时延需求和能耗成本需求,而其中速率需求是亟待解决也是其它需求的基础。从香农公式出发,可以在3个维度提高网络速率,即(cells/km~2)维度,(bits/s/Hz/cell)维度和(Hz)维度。相对应的技术分别为超密网络,增加可用频谱带宽以及其它增加频谱效率的先进技术如大规模MIMO等。本论文针对超密网络在部署中存在的挑战和未解决问题展开研究。具体地,这些挑战包括:1)随着基站越来越多,在相同的区域内,移动用户将会“看到”更多的干扰源,宏基站和与它共信道的微小区基站之间的相互干扰可能会削弱移动用户接收信号的质量;2)随着移动设备同时支持2G/3G/4G/WLAN甚至未来5G等多种接入技术的需求,能够同时使用它们将会变得很重要,这可能会带来一定的自干扰;3)微小区的覆盖半径小于宏小区,因此存在更加频繁的小区切换,有文献表明异构网络的切换性能不如纯宏小区,移动管理需要重新设计。本文的主要创新点总结如下:第一,在未来的5G网络中,一方面由于基站密度的增加用户与基站之间将会存在更多的视距传输(line-of-sight,LoS),另一方面在城市中由于高楼树木车辆的存在,用户与基站之间也会存在非视距(non-line-of-sight,NLoS)传输。此外,由于电磁波近场传输和远场传输存在一定的差异,对网络性能进行数学分析时采用传统的单段路径损耗模型已经不再准确,需要采用更加一般的多段路径损耗模型。综上,对网络性能进行分析时,必须将NLoS传输和LoS传输考虑进多段路径损耗模型里才能较为真实地反映现实中的网络性能。本章给出了超密网络的一般性分析框架,该框架同时考虑进了NLoS传输和LoS传输,一般性的路径损耗模型和一般性的衰落或阴影模型。揭示了随着基站密度的增加,微小区网络的性能从噪声受限区间转移到干扰受限区间这一现象,并且详尽分析了影响这种转移特性的因素。分析结果将会为在未来城市区域中部署密集网络提供一定的理论依据。第二,未来的网络将会是存在采用各种射频技术的异构网络,不同层的网络采用不同的发射功率,部署不用的密度已经成为常态,如何优化各层网络中节点的密度将会成为一个挑战。我们对超密异构网络进行研究,给出了一般性的分析框架。在服务质量(quality of service,QoS)限制下研究了2个优化问题,2个QoS限制条件分别为限制网络最大总功耗和限制网络最小覆盖概率。从上述2个优化问题中得到了使网络能效最大化的网络部署方案。比较了在不同网络设置场景下的最优基站部署方案,即假设基站采用固定发射功率、假设基站采用基站密度依赖的发射功率、理想的基站端功耗和实际的基站端功耗4种场景,针对不同场景给出了对应的性能分析结果。第三,随着网络部署变得密集,由于小区覆盖面积的减小导致切换经常发生,用户的移动管理将会变得更加复杂;而如果切换时延大于用户的小区驻留时间,则会发生切换失败。将控制平面和用户平面在逻辑架构上进行分离,形成控制-用户平面分离架构是解决这一问题的有效方案。我们针对控制-用户平面分离架构的毫米波网络,提出了分析该网络覆盖概率等性能指标的数学模型,并且将其与传统架构的性能做比较。研究了2个优化问题,即分别在传统架构和控制-用户平面分离架构的网络中,最小覆盖概率约束下如何部署网络使得网络切换开销最小。从理论分析结果和仿真结果出发,给出了网络部署应该遵循的原则,即对于传统架构的网络,需要增加网络中的宏基站;而对于控制-用户平面分离架构的网络,则需要增加网络中的微小区基站。第四,将蜂窝网络的物理层和网络层联合分析成为一个挑战。以往的研究中往往不能在时间维度上和空间维度上对网络性能进行详尽分析,我们基于马尔科夫链和随机几何研究随机蜂窝网络的时空性能,推导了网络的中断概率和阻塞概率,其中网络中干扰节点位置服从泊松点过程分布,在信道模型中将衰落和阴影同时考虑了进去;建立了网络空间频谱效率和能量效率的模型;对网络的中断概率和能效进行了分析。综上所述,本文针对未来5G超密网络在部署中存在的挑战和未解决问题展开研究,基于一般性的理论模型,论证了5G超密网络的必要性,同时针对超密部署带来的用户服务质量下降问题,给出了服务质量保证下的基站部署优化方案,对未来基站部署提供一定的参考和借鉴意义。