多目标跟踪是一个重要的理论和实践问题。近段时间以来有了很多重要的成果,这些成果在空中侦察与预警、弹道导弹防御、战场监视等军事领域,以及空中交通管制、智能车辆系统、交通导航、机器人视觉等民用领域都得到了广泛的应用。然而,随着技术的不断发展,现代跟踪环境的显著变化,各种应用系统对多目标跟踪提出了日益复杂的要求,原有的目标跟踪理论和方法也面临着新的挑战,例如:量测方程非线性、目标数目未知、杂波密度高、存在群目标等。本文针对这些问题,研究了在密集杂波干扰环境下,时变数目多目标及群目标的跟踪算法。本文主要的研究工作有:(1)针对量测方程非线性,且量测误差协方差较大时,粒子滤波容易发散的情况,提出了自适应两阶段滤波算法。通过对粒子滤波的估计值进行第二阶段的自适应卡尔曼滤波,提高了非线性量测条件下滤波算法的精度和稳定性。(2)将多目标跟踪中的难点—数据关联问题,转换成为一个含约束条件的0-1规划求解问题。并针对此NP-hard问题,设计了一种改进的离散差分进化算法,求解密集杂波下的高维最优关联,有效的解决了多目标跟踪中的最优关联的求解问题。(3)在通用航迹起始框架下,设计了自适应门限的一步延时航迹起始算法用于航迹的起始,并将航迹起始算法、航迹终止检测和量测外推等算法步骤同经典多目标跟踪算法(JPDA,Joint Probabilistic Data Association)相结合,改进的JPDA算法可以适用于目标数目变化情况下的多目标跟踪问题。(4)提出了一种基于中心群目标跟踪算法同群内相对位置矢量数据关联算法相结合的群目标跟踪算法。通过对中心群目标航迹的获取,利用群内目标的相对位置矢量对群内目标进行精细起始和数据关联,更加有效的对距离接近的群内各目标进行有效的关联,更新群内各目标的状态估计信息,并在JPDA算法的基础之上,实现对多、群目标混合情况下的有效跟踪。