近年来,随着智能移动终端的不断普及和快速发展,移动数据量呈爆发式增长对移动网络提出了新的要求。如何利用有限的频谱资源,尽可能地满足移动业务的通信需求是未来无线通信网络亟需解决的关键问题之一。已有研究表明,在蜂窝网络中合理应用D2D通信能够实现较高的频谱效率、能量效率及较低的业务时延,然而,复杂的业务和网络环境给D2D蜂窝网络中的资源分配带来了困难,因此对动态环境下的D2D网络进行建模分析并实现资源优化已成为通信领域的研究热点。本文基于随机几何与排队理论对D2D异构蜂窝网络的性能分析和资源优化方法进行了研究。基于随机几何理论对网络的动态干扰进行建模,采用M/G/1排队模型对传输速率的自适应控制机制进行分析,获得了D2D蜂窝异构网络的时-空业务与传输模型;考虑具有优先级的业务类型,建立了具有动态优先级跳转策略的排队模型,基于生灭过程对网络的性能进行分析;在建立的时-空业务模型的基础上,针对具有重传机制的D2D蜂窝异构网络进行了性能分析和优化;在D2D辅助的缓存网络中,提出了推送预存机制以卸载基站负荷,并分析了缓存网络的负荷卸载率。本文的具体研究内容和创新点如下:（1）针对D2D异构蜂窝网络中动态干扰对传输速率的影响,基于排队论和随机几何建立D2D异构蜂窝网络的时-空业务与传输模型。考虑数据包在用户队列缓冲区的到达和离开过程,其队列状态会导致链路的干扰变化,根据接收SINR落入某一范围的概率,提出了一种自适应传输速率控制策略,以适应通信环境的变化;采用随机几何将用户的位置分布建模为泊松点过程,采用信道反转对蜂窝用户进行上行功率控制,基于M/G/1排队模型对D2D蜂窝异构网络中队列状态与干扰的关系进行分析;推导用户的瞬时SINR的互补累积分布函数（CCDF）,利用离散时间马尔可夫链推导状态转移概率矩阵及其稳态分布,获得平均队长、平均吞吐量等性能参数的表达式。仿真结果证明了理论分析的正确性,提出的机制可有效改善系统的丢包性能。（2）针对D2D异构蜂窝网络中具有优先级的数据传输场景,提出了一种动态优先级跳转策略,并基于生灭过程对网络的性能进行了分析。假设D2D用户的业务具有高低两种优先级,根据低优先级业务的时延要求动态调整两种业务优先传输的机会,该策略有效地降低了由低优先级队列业务滞留导致的丢包和系统时延。利用稀释泊松点过程对有发送数据的D2D用户建立动态干扰模型,推导了D2D用户SINR的互补累积分布函数,并将其作为队列的服务概率,建立了二维Geo/G/1马尔可夫链,并运用拟生灭过程分析了高低优先级队列的转移状态,用迭代法计算稳态概率分布并得到系统吞吐量、时延和丢包率等性能参数的表达式。仿真结果证明了理论分析的正确性,提出的策略可以有效降低数据丢包率。（3）针对D2D网络中由于干扰和恶劣信道环境导致数据包无法正确接收的问题,基于重传策略,结合排队论和随机几何,建立时-空模型对D2D蜂窝异构网络的重传机制进行分析,其中处于业务积压状态的D2D用户位置被建模为泊松点过程;建立带反馈的排队模型,其中队列离开过程的服务概率由用户接收SINR确定。为了分析缓冲区中的队列状态,将其表示为嵌入式马尔可夫链,并用迭代法计算其稳态分布以及平均吞吐量、平均时延等性能参数的闭合表达式。仿真结果表明,该模型在不同信道参数和D2D密度下的理论分析的正确性,重传策略可有效改善系统的丢包性能。（4）针对D2D辅助的移动缓存网络,提出了推送预存机制以卸载基站负荷,并分析了缓存网络的负荷卸载率。在缓存网络中,基站在非高峰期通过广播将最受欢迎的文件推送给用户,在此预存机制下,基于排队论建立用户的缓存队列模型对请求文件的传输过程进行分析。将基站和用户位置建模为相互独立的泊松点过程,假设用户请求的文件可以通过自身的缓存、D2D分享和基站三种工作方式获取,将请求得到的文件的队长状态与卸载策略构造为二维马尔可夫链,分析在不同工作方式下的文件队列状态。基于拟生灭过程求解稳态概率分布,并得出关键性能参数表达式。仿真结果表明,提出的缓存策略能够有效降低网络负载。