在下一代移动通信（IMT-A）系统中引入终端直传（D2D）技术和D2D多播通信技术，可以进一步提高无线频谱资源利用率，扩大系统覆盖，降低终端发射功率。在D2D多播通信系统中，数据传输具有无线通信固有的不可靠性。在TCP/IP协议中，采用自动请求重传（ARQ）技术来保证传输质量。传统的直接重传方式是对丢失分组逐个进行重传，所需要的重传次数多，导致重传效率低下。然而，如果在D2D多播重传过程中采用网络编码技术，将各目的节点的丢失分组按一定规则进行网络编码组合后重传，可以大大减少重传次数，从而提高重传效率。本文参考了现有的基于网络编码的多播重传算法，提出了一种优化算法——NCWMR算法，然后通过仿真验证了该算法确实能够有效地提高多播重传效率。另外，当多播系统中目的节点数过多或分组长度过大时，基于ARQ协议的多播重传方法所反馈的信息过多，有可能会导致“反馈风暴”问题；并且，由于多播源到各目的节点的各条多播链路的链路质量存在着很大差异，而多播传输的性能很大程度上由质量最差的链路决定。针对上述两个问题，本文提出了两种自适应方法，分别为多播模式选择自适应方法和多播源选择自适应方法，并且将这两种自适应方法构成一种自适应多播传输方案。仿真结果表明，采用自适应传输方法能有效提高减轻多播源负荷，尤其是D2D异构多播网中基站的负荷。