天波超视距雷达以其预警距离远、监测范围广、效费比高、抗低空突袭能力突出、反隐身能力强等优点,得到了世界各大强国的重视,被广泛地应用于各类国防军事领域和海况监测、缉毒走私等民用领域。虽然天波超视距雷达相对于常规体制的雷达具有许多优势,但是受其特殊的工作机制和复杂的工作环境影响,其也面临着一系列不足和挑战:雷达回波中充斥着各种强干扰和杂波,严重影响目标信号提取和目标参数估计;高速高机动空中目标的多普勒谱会发生展宽,进一步增大目标检测和参数估计的难度。本文着眼于天波超视距雷达中的这些问题,对天波雷达中的射频干扰抑制、瞬态干扰抑制、机动目标检测等问题进行了研究。本文的主要工作内容如下:(1)射频干扰抑制算法研究对天波超视距雷达中射频干扰的来源、特性及危害进行了研究;给出了一种基于白化思想的射频干扰抑制算法,但该算法在抑制射频干扰时会破坏海杂波和目标;针对该问题,提出了一种基于频域干扰剔除的射频干扰抑制算法,该算法可以很好地抑制射频干扰而几乎不影响海杂波和目标,仿真结果验证了这一结论。(2)瞬态干扰抑制算法研究对天波超视距雷达系统中两种常见的瞬态干扰(流星余迹回波和雷电冲击干扰)的产生机理、特点及回波特性进行了分析;给出了两种经典的瞬态干扰抑制算法:基于AR模型线性预测的瞬态干扰抑制算法和基于自适应高斯基表征方法的瞬态干扰抑制算法,并分别采用这两种算法对含有流星余迹回波和雷电冲击干扰的实测数据进行处理,结合处理结果分析了这两种算法的优缺点。(3)机动目标检测算法研究提出了一种基于三次相位函数的机动目标检测算法,该算法相对基于高阶模糊函数的机动目标检测算法减小了非线性相位降阶的次数,减小了信噪比损失,具有更低的输入信噪比要求,结合模拟数据和实测数据对该算法进行了验证;又提出了一种基于改进时频分析方法的机动目标检测算法,该算法相对基于传统时频分析方法的机动目标检测算法具有更低的信噪比门限和更高的参数估计精度且可以抑制多机动目标产生的交叉干扰项,模拟数据和实测数据的处理结果验证了该算法的这些优点。