无线信道固有的多径衰落特性是阻碍信道容量增加和服务质量改善的主要原因之一。MIMO技术和协作通信技术是抑制信道衰落、提高传输可靠性的两种主要方案,但MIMO技术对小型移动终端有着苛刻要求使其在小型移动终端上的应用步履维艰;而协作通信技术不需要在移动终端上安置多根天线,只需要伙伴用户之间互相协作传输,为MIMO的实用化找到了一条新途径。协作通信要求用户不仅传送自己的数据,还要传送伙伴用户的数据,这就要求每个用户或中继节点对不同的用户数据进行协作传输处理,从而涉及到“与谁协作”、“如何协作”和“协作效果”等必须解决的关键问题。网络编码理论本质上就是中间节点(包括信源节点)对来自不同(虚拟)信道的数据进行处理后再发送出去,目的节点根据收到的多个数据进行网络码译码后就可以获得信源节点发送的数据,因而网络编码技术的关键点也在于提高节点的协作处理能力以实现高效可靠的数据传输,且网络编码的最大优势在于能提高网络吞吐量和传输效率,因而将网络编码理论与协作通信技术相结合必能进一步提高协作系统性能。将网络编码作为一种强有力的协作策略,本文深入研究了基于网络编码的协作通信机制。论文的主要贡献如下:1.针对多用户协作向基站传送数据的多用户协作通信系统,在用户间的信道质量不是理想的情形下,提出了一种基于机会式网络编码的协作策略,比较了基于传统的译码转发的协作策略和基于机会式网络编码的协作策略。当协作用户数为2时,在基域为GF(2)的情况下,推导出了传统的协作传输和机会式网络编码的协作传输策略下的系统中断概率,证明了两种协作策略都能获得阶数为2的分集增益。当协作用户数为3时,在基域为GF(2)和GF(4)这两种情况下,推导出了传统的协作传输和机会式网络编码的协作传输策略下的系统中断概率,并证明了:(1)如果基域为GF(2),那么传统的协作传输策略获得了阶数为3的分集增益,而网络编码的协作仅获得了阶数为2的分集增益;(2)如果基域为GF(4)且用户间的信道是理想的情况下,传统的协作传输策略仍然是获得了阶数为3的分集增益,而基于网络编码的协作却获得了阶数为4的分集增益。数值仿真结果说明,在系统中断概率上机会式网络编码的协作策略要优于传统的译码转发协作策略和不协作的传输策略。2.针对两用户借助一个或多个中继节点向基站传送数据的单向协作通信系统,在用户到中继节点的信道质量不是理想的情况下,提出了一种基于网络编码的中继策略。对于单中继的单向通信,推导出了采用传统译码转发和基于(确定性和机会式)网络编码的中继策略下的系统中断概率,证明了这两种中继策略都能获得阶数为2的分集增益。对于双中继的单向通信,当基域为GF(2)和GF(4)时,分别推导出了中继节点采用传统译码转发和基于网络编码的中继策略下的系统中断概率。当基域为GF(2)时,证明了基于译码转发的中继策略获得了阶数为3的分集增益,而基于网络编码的中继策略只获得了阶数为2的分集增益;当基域为GF(4)时,证明了基于网络编码的中继策略也获得了阶数为3的分集增益,从而说明了基域的选择对网络编码增益的性能有极大的影响。数值仿真结果说明,当用户节点和中继节点采用相同功率发射数据时,基于网络编码的中继策略在中断性能上要略差于传统的译码转发中继,但当系统总功率主要分配给用户节点时,基于网络编码的中断性能要优于传统的译码转发中继。3.针对多用户对借助一个中继节点交换数据的双向协作通信系统,在假定用户发送的分组数据到达中继节点的过程服从二项分布的情况下,提出了一种基于机会式网络编码的中继策略,从网络层上研究了分组递交时延和中继节点的能量消耗,推导出了系统在平稳状态下的平均分组递交时延和平均功率消耗闭式解。在平均分组递交时延受限的条件下,提出了中继节点最小功率消耗的优化问题;在缓冲区大小为1且用户发送分组数据速率固定的情况下,获得了最小能量消耗的优化结果。4.针对两对用户对借助一个中继节点交换数据的双向协作通信系统,提出了一种基于模拟网络编码的中继策略,推导出了系统中断概率的上界和下界,数值仿真结果表明当中继节点位于用户对中间时,上下界非产接近。