随着第五代移动通信技术5G（5th Generation Mobile Networks,5G）的高速发展与落地,终端直通通信技术D2D（Device to Device Communication,D2D）也迎来了更丰富的应用场景与更高的传输需求。由于授权频段频谱资源有限,D2D通信系统的部署可能对已有的蜂窝网络性能造成严重的干扰。为了应对该挑战,业界提出了D2D-U（Device-to-Device Communication on Unlicensed Bands,D2D-U）技术,即允许D2D设备与无线保真（Wireless Fidelity,Wi Fi）系统复用免授权频段频谱资源以提升系统容量,优化传输体验。本论文主要研究D2D-U系统中分布式资源分配优化方案,主要目的是设计分布式的D2D用户频谱及功率资源分配算法,实现在D2D-U系统与Wi Fi系统友好共存的前提下,最大化D2DU系统传输性能。为了实现D2D-U系统与Wi Fi系统的和谐共存,本论文首先针对免授权频段Wi Fi负载分别提出了基于深度强化学习以及基于神经网络滤波的估计方法。其中,在基于深度强化学习的模型下,D2D用户通过感知自身与Wi Fi用户在信道中的传输碰撞情况估计Wi Fi负载并调整频谱资源使用策略。而在基于神经网络滤波的模型下,D2D用户直接通过监听信道中Wi Fi用户传输碰撞概率估计活跃的Wi Fi用户数目,进而实现免授权频段负载的估计。两种方法均为分布式算法,D2D用户分别使用Q函数以及非监督目标函数实现神经网络的在线非监督训练。基于上述两种方法获得的Wi Fi传输负载,本论文进一步提出了基于价格模型的分布式D2D-U系统联合资源分配算法。其中,针对传统算法最大化系统吞吐量而忽略系统内部公平性的问题,本论文采用价格模型调整D2D用户之间的传输平衡。此外,本论文利用非监督训练的神经网络完成信道的定价,神经网络在在线训练以及联邦学习的过程中实现收敛,实现D2D用户在满足Wi Fi系统公平传输以及D2D-U系统内部公平传输的前提下,最大化自身数据传输速率。最后,本论文提供了大量数值仿真与分析验证了上述算法的性能,为D2D-U技术相关的后续研究以及部署提供了参考。