D2D(Device-to-Device)通信作为5G中一种重要的近场通信技术其已被LTE-advance标准化,而随着互联网的发展以及用户需求的不断提高,传统的蜂窝系统已不能满足无线通信网络的普遍要求,而带有层次结构的本地小型通信场景将成为蜂窝系统重要的补充,于是D2D通信将成为蜂窝用户的重要拓展形式。D2D通信作为一种短距离通信方式,其具有低延时,低功耗,传输速率高的通信特点;其在复用模式下利用授权频带资源既能提高频谱利用率又能让用户服务质量有所保证,所以D2D技术将作为未来无线通信的重要形式。本文首先考虑蜂窝-D2D混合系统模型。分析了 D2D用户直连和蜂窝这两种模式下的传输速率下限表达式;着重研究了 D2D复用模式的混合系统,并通过随机几何的泊松点过程(PPP)对用户分布进行描述,分析了蜂窝用户和D2D用户的传输概率(覆盖率)表达式。在此基础上得到了单频带功率控制和用户分配方案,并进一步深入分析了基于载波聚合的多频带功率分配方案。仿真结果表明,用户采用功率控制后能够有效提高混合系统性能,这与理论结果保持一致;并且多频带功率分配方案在提高频带利用率的同时,可以在特定的D2D用户密度情况下找到总传输速率的最大值。然后,本文研究了大规模MIMO-D2D混合系统模型。通过PPP理论对用户分布进行描述,分别分析了混合系统共享下行链路频带资源和上行链路频带资源两种情况,并推导了上行链路的传输速率表达式;仿真分析了传输速率、能量效率与天线数、D2D用户密度等因素之间的关系;并讨论了三种不同用户分布的实际场景。仿真结果表明,混合系统可以在特定D2D用户密度下找到总传输速率的最大值;当用户密度较小时,传输速率随着天线数增多提升显著;但在能量效率上受限于总功耗。最后针对上行链路D2D用户进行了最小发送功率和接入门限的联合优化,从而达到了节约功耗、提高能量效率的目的。