随着移动通信的发展，为了提高频谱利用率和网络容量，移动通信系统正在向网络融合的方向发展，以综合利用多种无线接入技术和多种无线通信方式。终端直通（D2D）技术是一种新型的基于蜂窝移动网络的近距离数据直接传输业务，它允许蜂窝网络中相距较近的若干个移动设备相互之间直接通信。本论文针对混合网络中多个D2D用户间通信问题进行了研究，并结合信道编码技术、空时编码技术、网络编码和虚拟MIMO等无线通信关键技术，设计了适用于D2D组间通信的传输方案。论文首先提出了一种新型的D2D通信场景——D2D组间通信，以及在该场景下使用的关键技术，介绍了虚拟MIMO接收译码算法以及不同译码算法的性能比较，正交空时分组码的实现，以及网络编码与信道编码联合设计中的不同网络编码机制。针对D2D组间通信提出了两种传输方案：基于MMSE检测的传输方案以及基于网络编码和空时编码的下行广播方案，并分析了不同传输方案的误码性能。结合不同的传输方案，将虚拟MIMO技术应用于D2D组间通信中，通过组内用户的相互协作获得分集增益，最后将LTE标准中使用的Turbo编码应用于整体传输方案中，仿真表明，信道编码的使用使系统误码性能获得了较大提升。