密集部署的小蜂窝网络(Small Cell Network,SCN)技术以链路传输速率高,功耗低,成本低和充分利用频谱资源等优势成为了第五代移动通信(The Fifth Generation Mobile Communications,5G)系统应对高吞吐量需求的关键技术。密集小蜂窝网络能够在热点区域动态随机部署,通过降低基站与用户之间的距离,能够有效提升用户的下载速率,从而提高网络的吞吐量。然而,在密集小蜂窝网络场景下,各个小蜂窝基站间距小,使得位于基站覆盖交叠区域的用户承受着严重的干扰。另一方面,日益增长的数据业务与有限的频谱传输资源之间的矛盾也是不可忽视的问题。因此,能否进行有效的干扰管理和提升频谱资源的利用率成为了密集小蜂窝发挥优良性能的重要因素。本文主要研究密集部署的小蜂窝网络中的干扰问题,采用多点协作(Coordinated Multiple Points,CoMP)传输技术,利用多基站协作的方式改善小区边缘用户的通信质量,解决干扰问题。同时考虑到CoMP传输相较于传统的点到点传输会增加回程链路上的资源消耗,而在密集小蜂窝网络中回程网络还面临着急剧增加的流量压力,本文联合CoMP传输技术和缓存技术,在解决干扰问题的同时,降低回程链路上的负载以及资源消耗。本文主要从以下四个方面展开研究:使用CoMP技术使网络传输模式多样化,如何为用户选择最优的传输模式;密集部署的网络场景下,用户可接入的基站增多,如何决策用户的接入;不同的缓存机制决定了用户获取内容的方式,同时产生不同的回程负载,如何决策基站的缓存;如何在保障用户服务质量的同时,充分利用有限的频谱资源。本文首先建立了对用户接入、传输模式选择和基站缓存的联合优化模型,最小化系统的回程负载并满足系统的频谱效率需求。考虑到求解联合优化问题的复杂度,将原始优化问题分解为两个子问题:用户接入与传输模式选择;基站缓存。针对用户接入与传输模式选择问题,设计了基于负载均衡的算法,在满足系统频谱效率需求的同时,均衡各个基站接入的用户数,使频谱资源得到有效利用。针对基站缓存问题,将其分解为各个基站独立求解的子问题,并基于回溯算法进行求解。然后,本文给出了一种密集小蜂窝网络中的频谱资源分配方案,包括接入资源的分配和回程资源的分配。建立以最小化传输时延为目标的优化模型,降低小区间的同频干扰,同时保障请求内容未被缓存的用户有可用的回程资源。通过设计贪婪算法来优化资源分配,并通过仿真对算法的性能进行了分析。