移动通信技术的不断发展使得网络频谱资源和终端能量的高效利用问题日益受到人们的关注。作为一种新型的近距离通信技术,D2D通信能够实现蜂窝网络控制下的端到端直接数据传输。蜂窝网络下的D2D通信在减轻基站负担的同时,还能提高频谱效率并降低终端能耗。本文的研究课题正是基于无线接入网中的D2D通信技术进行的。本文首先分析了课题的研究背景,阐述了课题的研究意义,并对全文的工作和结构安排进行了说明。在对D2D通信技术的国内外研究现状调研分析的基础之上,着重对无线接入网络环境中的分簇技术和协作安全技术进行了分析,在此基础上进行创新改进,提出了D2D成簇方案和D2D簇内外窃听抑制方案。针对设备持有者的兴趣爱好差异性、社交关系多样性以及设备能力等因素对D2D通信的影响,本文提出一种基于Admission Policy的D2D成簇方案,将D2D到来用户加入已有D2D簇的过程看作双方的相互选择过程。该D2D成簇方案充分考虑用户间的社交信任、物理距离、用户设备能量、兴趣爱好等特点,定义两个吸引函数表征到来用户与D2D簇之间的相互吸引程度,同时利用中国餐馆过程进行到来用户选择概率的计算。此外,综合考虑用户节点的社交信任、物理距离、能量等特点,提出D2D簇的簇头选择方案。仿真结果表明,该D2D成簇方案具有较优的系统容量和社交信任,簇头选择方案具有较好的可靠通信能力,验证了D2D成簇方案以及簇头选择方案的有效性。最后,针对D2D簇的引入可能带来通信安全性降低的问题,提出D2D簇的簇内外窃听抑制方案。针对仅有D2D簇内窃听者的场景,提出联合中继干扰方案,具体地,对D2D簇内可信用户设备进行最优角色分配,并针对波束成形技术中的载波同步问题设计多节点间的载波信号同步。针对D2D簇内外均存在窃听者的场景,提出最优中继干扰节点选择方案,通过考虑不同的业务和用户需求,设置不同的安全速率等级,制订合理的功率分配策略,以最优化安全速率。仿真结果表明,相比于已有的干扰方案,提出的窃听抑制方案在提高系统的安全速率、降低能量消耗方面有较好的性能表现。