近些年,无线通信系统正在以迅猛的速度向前发展,人类社会对无线通信业务的需求在不断增大,对通信系统质量指标的要求也在不断提高。多输入多输出(MIMO:Multiple Input Multiple Output)技术可以利用系统的多收多发天线来大大地提高空间分集增益,但在应用过程中会受到实际条件的约束,协作通信正是为解决这一困难应运而生的,它通过利用多个中继节点共同协作,形成“虚”MIMO系统,可以取得和MIMO系统接近的空间分集增益。而分布式MIMO系统相比于集中式的MIMO系统,可以更加有效地对抗信道衰落,同时能够降低中继节点的数量,并提升系统的容量。在无线通信网络的信号传输研究中,大部分都是在假设接收端已知信道状态信息的条件下的,这就需要完全获知信道状态信息,增加了对于信道估计的负担。然而在差分空时编码方案中,在发射端和接收端都不知道信道状态信息的条件下,接收端可以对接收到的信号进行检测和解码,从而避免了信道估计。本文首先研究了MIMO系统模型、正交频分复用(OFDM:Orthogonal Frequency Division Multiplexing)调制理论以及几种经典的空时频编码,并深入研究了MIMO系统下的差分空时编码方案。同时研究了无线协作通信系统模型,以及分集技术和几种经典的转发协议,并对放大转发协议和译码转发协议下的误码性能进行仿真对比,对结合循环延迟(CDD:Cyclic Delay Diversity)技术的协作差分系统对误码性能的优化程度进行仿真验证。本文基于分布式MIMO的概念,在协作多中继系统的各节点装配多根发射天线,结合循环延迟分集技术和差分编码技术,旨在提高系统误码性能并且能够降低检测复杂度。先是研究节点装配两天线的协作MIMO模型,紧接着研究了基于CDD技术的多天线多中继协作差分方案,中继节点将源端接收到的信号进行循环延迟并且放大转发给目的端,通过理论分析和仿真实验证明在接收端不知道信道状态信息的前提下,结合CDD技术的多天线差分协作方案可以提高系统性能,并具有较低的检测复杂度。