当目标距离天基红外探测器的成像阵列较远的时候，目标所成像的形状较小而且信号微弱，即为红外弱小目标。红外弱小目标很容易被复杂的云背景淹没，这给目标的检测工作带来极大的困难。目前，在复杂云背景中对红外弱小目标实施稳定的检测和跟踪已成为当今前沿技术之一。研究复杂云背景下红外小目标检测的背景抑制方法，对目标检测有一定的应用价值。本文主要针对复杂云背景中红外弱小目标检测算法中的背景抑制部分内容展开研究，如何利用小目标在图像中特性的先验信息，对图像的复杂云背景进行有效的抑制是本论文的研究重点。本文将开展红外图像特征分析、弱小目标成像模型推导、背景抑制方法研究三方面的工作，其中，以本文柔性数学形态学为基础的背景抑制算法是本文的主要研究内容。本文主要内容如下：在红外图像特征分析方面，基于红外系统的结构构成和信息的处理流程，对红外图像中的背景、噪声和目标的成像特征进行分析，为红外弱小目标成像模型的推导提供理论依据。在红外弱小目标成像模型的推导方面，以红外图像的特征为出发点对红外小目标成像的模型进行推导。通过其成像模型对红外弱小目标图像的定量表征，为后续的背景抑制算法研究提供了研究基础。红外弱小目标的复杂云背景抑制方法研究方面，在常规背景抑制算法在复杂云背景图像中进行实验比较和分析的基础上，使用数学形态学对复杂云背景进行抑制研究，本文首先对传统形态学算法和柔性数学形态学算法的滤波性能进行研究和分析，在此基础上设计一种新的柔性形态学算法，并对该算法的结构算子进行改进。通过几种数学形态学方法对图像进行滤波实验，对几种方法的背景抑制性能进行比较和分析。通过对主观视觉和客观评价指标两方面对几个样本的验证，结果显示，相对于本文其他背景抑制方法，该方法对复杂云背景中小目标检测具有较好的背景抑制性能。