随着第五代(5th-Generation,5G)移动通信系统商用化进程的不断加速,国际通信组织以及业内学者已经开始对第六代(6th-Generation,6G)移动通信系统进行规划。卫星通信系统由于其覆盖范围广,不受地理条件限制,通信质量高等优点,可以很好地解决偏远地区因地面无线系统覆盖能力不足而产生的“信息孤岛”问题,被认为是6G的核心技术之一。性能分析作为卫星通信系统研究的一项重要内容,引起了国内外学者的广泛关注,目前已经有不少的文献报道。但现有工作主要针对卫星通信的下行链路,并且通常只关注单用户场景。在实际应用时,卫星通信网的广域覆盖特性决定了它需要为多个地面用户提供服务,因此本文主要研究卫星通信系统中多用户调度策略,并对其性能进行评估,为实际的系统设计提供参考和依据。本文的主要工作如下:1.针对解码转发(Decode-and-Forward,DF)协议下多源多目的节点的卫星通信系统,在上行链路和下行链路都经历阴影莱斯(Shadowed-Rician,SR)衰落的条件下,分析了机会调度/选择合并和机会调度/最大比合并两种方案下的系统中断性能。首先,考虑天线方向图和路径损耗的影响,建立一个实用的卫星信道模型,并得到系统的端到端信噪比(Signal-to-Noise Ratio,SNR)表达式,其中上行链路使用机会调度方案,而下行链路采用选择合并或最大比合并方案。然后,分别推导出两种方案下系统的中断概率闭合表达式,并进一步得到高信噪比条件下系统中断概率的渐近表达式。最后,计算机仿真不仅验证了理论分析的正确性,而且表明了两种方案下系统的分集阶数都取决于源节点和目的节点用户的数量,但是编码增益的不同带来了系统性能上的差异。2.针对选择性的解码转发(Selective Decode-and-Forward,SDF)协议下多天线多源单目的节点的卫星通信系统,提出了在源节点和目的节点分别采用最大比传输和最大比合并的方案,并分析了系统的中断性能。首先,考虑路径损耗和天线增益,得到系统的等效输出SNR表达式。然后,在上行链路和下行链路都服从SR分布的情况下,推导出系统中断概率闭合表达式,该闭合表达式是适用于SR信道参数中的Nakagami参数为整数和有理数的统一精确表达式。接着,推导出高信噪比条件下系统中断概率的渐近解析表达式。最后,仿真结果不仅验证了精确和渐近系统中断概率表达式的正确性,而且证明了系统分集阶数取决于源节点数量以及源节点和目的节点配置的天线数,而卫星与地面用户之间链路的俯仰角只影响系统编码增益。在实际系统设计中,当提高发射功率或传输带宽较为不便或者困难时,可以充分利用多天线系统带来更大的分集阶数的优势,从而改善系统的通信质量。3.针对SDF协议下多源单目的节点的卫星通信系统,在上行链路和下行链路都经历SR衰落的条件下,分析了系统的安全中断性能。首先,考虑路径损耗和天线增益,获得SDF协议下系统的端到端SNR表达式。然后,在输出SNR表达式的基础上,推导出系统安全中断概率的精确闭合表达式和渐近闭合表达式。最后,数值仿真结果证明了安全性能评估的有效性,并表明了下行链路的阴影衰落程度不会影响系统的保密中断分集阶数,但是会改变保密中断SNR增益,从而对系统的安全性能造成影响。此外,窃听者的侵略性会给系统的性能带来致命影响。