卫星光通信是以激光作为信息载体在卫星或星地间进行极远距离、极弱信号传输的通信方式，当杂散光进入探测器时将造成系统性能下降。为提高跟瞄稳定性、改善通信质量，有必要研究杂散光的产生机理，并研究有效的抑制方法。本文以星地激光通信星上终端为对象，研究星上终端的杂散光理论，并进行仿真，主要研究内容如下：1、杂散光理论模型建立。分析了星地激光通信星上终端所处的光学环境，并建立了相应的杂散光理论模型：空间杂散光理论模型和内部杂散光理论模型。针对星上终端探测器的作用特点，建立了适应于星上终端的评价函数。2、杂散光抑制方法研究。从光能传输方程出发，介绍了星上终端抑制杂散光的基本思路。针对星上终端的特点，介绍了星上终端抑制杂散光常采用的方法，并总结了常用遮光罩的设计原则及方法。对有次镜遮挡的系统，提出了一种除次镜遮挡的方法，并建立了模型。3、空间杂散光仿真研究。对卫星光通信星上终端设计了遮光罩，并仿真研究了遮光罩参数对杂散光抑制能力的影响，以及不同条件下太阳辐射和地球背景光对系统的影响。4、内部杂散光仿真研究。以内部杂散光理论模型为基础，详细计算了在不同条件下探测器接收到的内部杂散光功率，讨论了如何通过选取系统参数减小内部杂散光。本论文的研究工作能为星上终端的杂散光分析提供理论依据，并为遮光罩的设计提供仿真参考，对高性能星上终端的研制具有参考价值。