当今频谱资源日益紧张,而非正交多址接入(Non-Orthogonal Multiple Access,NOMA)技术能够实现更高的频谱利用率、更大的吞吐量和更低的传输延迟,因此被认为是5G网络中多址接入的重要技术之一。协作通信通过用户共享彼此的天线,形成虚拟的多输入多输出(Multiple-Input Multiple-Output,MIMO)系统,实现系统分集增益、信道容量和通信质量的提升,因此具有十分广阔的应用前景。本文在下行链路通信场景下,分别从多用户和多中继角度对NOMA协作系统进行研究,分析了系统的中断性能,最佳中继选择策略以及影响系统中断性能的相关因素。论文的主要工作如下:(1)针对多用户下的NOMA协作系统模型,在考虑有无通接链路两种情况下,分别给出了基于中继节点与目的节点之间链路和基于源节点与目的节点之间链路的两配对用户选择准则,研究了系统中配对用户中断概率的表达式、高信噪比(SNR)下的渐近表达式和系统的分集性能;通过仿真分析验证了所推导的精确中断概率与近似中断概率的一致性,得出信道质量和中继位置对系统中断性能的影响规律;最后与该模型采用放大转发(amplify-and-forward,AF)协议时的中断性能进行了对比,结果表明,该模型下采用的解码转发(decode-and-forward,DF)协议时系统的中断性能优于采用AF协议时系统的中断性能。(2)针对多中继环境下的两用户NOMA协作系统模型,首先研究了部分中继(Partial Relay Selection,PRS)选择策略及其中断性能,然后提出了基于两用户NOMA下的分布式被动机会中继(Reactive Opportunistic Relay Selection,RRS)策略,详细推导了该策略下的精确闭式中断结果和高SNR下的近似结果,并利用近似结果得到其分集性能及最优功率分配因子;最后通过仿真,重点探讨了RRS策略下,中继位置、信道质量、中继个数以及功率因子对系统中断性能的影响规律,并在相同参数下,对比了RRS和PRS两种策略下系统的中断性能。仿真结果表明,采用RRS策略时系统的中断性能优于采用PRS策略。本文的研究可以丰富NOMA协作网络的基础理论,并为NOMA的应用研究提供理论参考和指导。