被动多传感器多目标跟踪技术是多传感器数据融合系统的重要研究内容之一，在军事和民用领域具有广阔的应用前景，备受国内外专家学者的关注。本论文结合国家自然科学基金（No.60677040，No.60871074），主要研究随机集理论在被动多传感器多目标跟踪领域的应用，取得的主要成果如下：1.针对被动多传感器量测数据关联中的代价函数选取问题，提出了一种基于距离加权最小二乘的改进代价函数，将距离信息融入最小二乘估计中，并在代价函数中考虑了融合方差的影响，提高了关联精度。在此基础上，针对拉格朗日松弛算法运算量过大的问题，提出了一种基于统计量检验的快速关联算法，通过两次基于指示函数的统计量检验对候选关联集进行化简，在保证较高关联精度的同时，提高了计算效率。最后将改进的代价函数运用于快速关联算法中，有效改善了算法的综合性能。2.针对乘积形式的多传感器PHD滤波中存在的缩放比例失衡问题，提出一种改进算法，将似然和缩放比例分离开来考虑，先采用乘积形式计算联合似然，再采用求和形式计算缩放比例，有效解决了该问题。然后，针对机动目标跟踪问题，提出一种改进的多模型粒子PHD滤波算法，用粒子拟合目标状态的模型条件PHD强度，通过重采样实现对存活粒子的输入交互，有效解决了模型概率过小时的粒子退化问题。在此基础上，采用Rao-Blackwellized的思想进一步提高采样效率，改善了混合马尔可夫系统下的跟踪性能。3.针对CPHD滤波中存在的目标漏检问题，提出一种改进算法，首先采用高斯分量标记法进行估计与航迹关联，然后通过对修剪合并后各个高斯分量的权值进行再分配，有效解决了目标漏检问题。在此基础上，针对GMP-CPHD滤波中存在的权值过估问题，提出一种改进算法，在高斯混合框架下，通过一组求积分点传播目标状态估计的均值和方差，在解决观测非线性的同时，避免了粒子滤波可能带来的问题。4.针对MeMBer滤波中存在的目标数过估问题以及CBMeMBer滤波中存在的量测新息弱化问题，提出了一种IMeMBer算法，通过对漏检目标的多贝努利RFS进行修正，在解决目标数过估问题的同时，避免了CBMeMBer滤波可能导致的量测新息弱化问题。在此基础上，将高斯粒子滤波引入IMeMBer算法中，通过一组高斯粒子近似多贝努利随机集中元素的概率分布，改善了被动测角情况下的跟踪性能。5.针对随机集滤波的航迹管理问题，提出一种基于模糊聚类的航迹管理算法。该算法充分利用多帧信息，由不同时刻的滤波状态对当前时刻状态进行n步预测，并根据惯性进行加权，最后利用模糊聚类求得当前估计属于每条航迹的隶属度，从而得到最终的航迹。与传统的估计与航迹关联算法不同，该算法在更新每条航迹信息时，不仅仅是简单地对相邻帧之间的对数似然比进行求和，而是通过加权聚类等操作综合考虑了多帧信息，有效提高了航迹维持性能。