在无线网络中利用协作分集技术可以提高传输的可靠性,但是当网络中需要被协作的用户数目大于协作节点时,会造成传输的延时。网络编码是一种可以有效解决传输拥塞问题、提升网络传输有效性的技术,而且它还可以降低系统的中断概率。本文主要研究了将二者结合的基于网络编码的协作通信系统的性能。具体工作如下:(1)详细地阐述了协作通信系统和网络编码中的关键技术,并对前向放大方案和前向解码方案进行了仿真和分析。(2)研究单用户无分集系统,单用户有分集系统,两用户无分集系统和两用户传统分布式天线系统的中断概率,并对其进行了仿真,仿真结果显示当网络中用户数目增加而协作节点个数没有增加时,网络的中断概率会增大,而网络中的协作节点个数增加则会降低网络的中断概率。(3)研究了两用户单中继分布式天线系统中确定性网络编码,机会式网络编码和复数域网络编码的中断概率,并与传统的协作方式进行了比较,并将网络编码的传输策略从两用户推广到了多用户。结果显示网络编码节省了时隙,提升了网络的吞吐量。当用户和中继之间无误码时,网络编码可以降低系统的中断概率。当用户和中继之间有误码时,机会式网络编码的中断概率最低,但其编码复杂度较高;确定性网络编码在用户和中继之间误码较大时中断概率大于传统的复制重传策略;复数域网络编码的性能最差。(4)研究了两用户协作系统中传统协作方式、确定性网络编码和机会式网络编码的性能,推导了中断概率公式,并进行了仿真。结果表明网络编码的引入可以有效地降低系统的中断概率,确定性网络编码可以提升系统的吞吐量,但是协作要求较高;机会式网络编码的中断概率最低,但是编码复杂度最高,也没有提升系统的吞吐量,最后阐述了多个用户相互协作时的传输策略。