现今卫星通信、地面移动通信均在各自领域发展成熟,各有千秋。为达到更高的通信标准以满足下一代网络的通信需求,研究人员提出星地一体化网络架构。星地一体化网络中星地间链路衰落严重,卫星地面用户间相对移动,导致通信可靠性得不到保障,因此协作通信技术常应用于星地一体化网络中,截至目前具有代表性的DVB-SH(Digital Video Broadcasting—Satellite to Handhelds)、Sirius-XM等系统已成功建成。但考虑到这些系统中地面辅助设备的铺设成本过高,科研人员相继提出一种前瞻性的星地一体化用户间协作通信模型,允许地面终端间协作互助达到虚拟MIMO的高空间分集效果。且由协作技术与网络编码技术在中继、多播等方面的联系,本文将在星地一体化用户间协作通信系统中结合数字域及复数域网络编码,降低系统误码率,实现更可靠的通信。本文首先分析了星地一体化网络的来源与背景,详细介绍了星地一体化网络中协作与网络编码技术结合的意义和必要性,并依据对现有国内外研究现状的分析总结得出该课题存在的问题及未来的技术发展走向。之后本文对星地一体化网络协作与网络编码结合技术的基础理论研究,详细介绍了现有的经典协作通信系统模型及其与网络编码的结合方式,并针对复杂的星地信道建立了更贴合实际的郊区、城市下的基于三状态的星地信道衰落模型。此外研究了网络编码技术应用方案,发现网络编码在延迟、能效性、可靠性、鲁棒性、误码率、信息安全等方面均具有巨大优势。结合网络编码与协作技术,本文共提出三种协作网络编码传输协议。针对星地一体化网络中星地链路不稳定、衰落严重的问题及二元网络编码在多用户场景下应用限制,结合RS码构造方法,提出了具有更高网络编码分集增益的高阶伽罗华域上的网络编码方案RS-DNC(Reed-solomon codes Diversity Network Coding)。之后针对RS-DNC在高信噪比条件下无效协作、无效网络编码的缺陷及星地一体化网络对时延的要求,提出基于反馈的联合自动重传网络编码协作传输协议(Combined Automatic Repeat request-Network coding,CARQ-NC),并进行了误码率、传输效率性能的仿真分析。最后,本文针对数字域网络编码对用户间协作信道可靠度依赖严重及低信噪比条件下误码率性能较差的问题提出应用复数域网络编码(Complex Field Network Coding,CFNC),以保证星地一体化用户间协作系统在低信噪比下及在用户间协作信道较差的情况下仍有较高通信可靠性,有效改善误码率性能。