随着移动通信的飞速发展,移动网络中接入的智能设备数量与日俱增,对于网络承载能力和容量的要求也越来越高。各种服务和移动应用对于实时性的高要求,使得移动数据网络面临着巨大的挑战。5G的快速发展正源于此。流量需求的增长必然带来对频谱的进一步需求,而可用移动通信频谱资源稀缺,需要在更高的频段对于可用频谱进行探索。但是与此同时,高频段在满足一部分需求的同时,由于衰减较快,通信距离大幅度下降。超密集网络作为解决上述问题的关键技术之一,近年来已成为热门的研究方向。各种小基站的密集分布,有限的频谱资源无法保证给每个小基站分配正交的频谱,因此优化频谱分配策略十分关键。本文主要通过优化小基站的频谱分配策略,以提高小基站的下行链路数据传输频谱利用率。论文首先介绍了课题研究的背景和意义以及国外内学者在相关方向的科研成果;然后围绕超密集网络的结构特点,对其系统模型、组网方式和干扰情况简单地分析和介绍,同时还介绍了三种频谱分配技术。博弈论作为本文的数学基础,在第三、四章中进行了介绍。文章针对小基站分布密集和十分密集两种情况,分别进行研究。本文主要研究了在小基站密集分布的情况下,应用图论着色算法构建频谱分配策略集,并在此基础上,以每个小基站为参与者建立非合作博弈模型,将系统的频谱利用率作为优化目标,通过“后悔概率”求解相关均衡,同时证明了相关均衡的存在性。仿真结果表明,提出的策略在迭代后可以较快地收敛,达到相关均衡点,并可以有效地提高频谱利用率。然后,在相同的范围内部署更多数量的小基站,以簇内基站干扰最小为优化指标,使用遗传模拟退火算法对小基站进行分簇,并以宏基站为领导者,每个簇作为跟随着建立斯坦伯格博弈模型。最后从分簇性能、迭代收敛性以及系统和小基站簇的吞吐量等方面进行仿真,验证文章提出的频谱分配策略有一定的应用价值。