为应对未来爆炸性的移动数据流量增长、海量的设备连接、不断涌现的各类新业务和应用场景,第五代移动通信(5G)系统应运而生。终端直通技术(D2D)作为5G的一项关键技术,可有效降低基站负载、减小终端的发射功率、降低传输时延,并提高频谱利用率。特别是在一些本地业务中,D2D通信具有其他同类技术不可比拟的优势。在D2D与蜂窝混合网络中,由于D2D用户可以与蜂窝用户共享无线资源,D2D与蜂窝系统间的干扰不可避免。因此,研究D2D通信的无线资源管理是一项非常重要的课题。针对5G系统的愿景与新需求,本文从能效、峰值速率和新应用场景三个方面对D2D通信的干扰管理与资源分配问题进行了研究,旨在实现D2D通信的进一步增强。本文的主要贡献如下：第一,提出了一种最大化D2D系统能效的资源分配算法。首先,分析了单条D2D链路在非协作和协作模式下的能效表达式,并证明单条D2D链路的能效主要由与它共享无线资源的蜂窝用户的位置决定；其次,由单对D2D用户拓展到多对D2D用户,提出了一种基于位置的信道复用算法。该算法将信道复用问题建模成指派问题,并利用匈牙利算法求解。最后,通过仿真表明：所提算法可有效提高D2D系统的总能效,同时满足每对D2D用户的最低速率要求。第二,在D2D系统中引入多天线(MIMO)技术,针对基站对D2D接收端干扰较严重的问题,提出了一种基于基站下行预编码的干扰抑制策略。该策略通过在基站预编码时加入对D2D用户干扰抑制的考虑,使基站在将下行波束对准其调度的蜂窝用户的同时,在D2D用户方向上形成零陷,从而有效抑制了基站对D2D用户的干扰。此外,考虑到实际系统中基站难以获取完美信道信息,又进一步推导了信道估计误差对预编码性能的影响。最后,通过仿真表明：所提预编码策略可有效提高D2D用户的吞吐量,但这种性能增益很大程度上依赖于基站到D2D用户信道估计的准确性。第三,对D2D辅助下的两阶段协作多播进行了研究。首先,针对大量多播用户密集分布在较小区域的场景,提出了将D2D多播用于两阶段协作多播的重传阶段,并提出一种新的重传用户选择策略；其次,重点研究了两阶段协作多播的最优时隙分配,以最大化两阶段的总资源利用效率。本文将时隙分配问题建模成优化问题,利用序列二次规划(SQP)算法求解。最后,通过仿真表明：(1)D2D辅助下的两阶段协作多播相比于传统单阶段多播,可获得更高的资源利用效率,且这种增益将随D2D多播簇到基站距离的增大而增大。(2)针对不同位置的D2D多播簇,应采用不同的两阶段时隙分配,以达到总资源利用效率的最优。