在通信对抗领域，通信侦察的两个基本任务是定位和识别。定位技术作为阵列信号处理的一个主要研究方向，已得到了广泛应用。而对通信辐射源识别的研究则相对薄弱。如果说定位解决了“在哪里”的问题，那么识别要解决“是什么”的问题，两者只有有机结合才能达到有效侦察。随着定位技术的实际应用，通信目标识别的需求也将变得越来越迫切。在通信侦察中运用细微特征分析识别重要的通信辐射源个体目标，掌握使用者的身份和性质，并通过监视跟踪对敌方的战术、战略动向做出预测，有利于在复杂的信息战环境下掌握军事行动的主动权。本论文以通信辐射源稳态信号为研究对象，通过研究信号的预处理、模式分割以及特征提取方法，获取通信信号的个体特征。通过MATLAB软件建立了无意调制信号验证模型以产生仿真信号用于验证模式分割和特征提取算法。并用这些算法从实际采集的调频手持机信号中提取了个体特征量，最后用成熟的ECOC分类识别器对个体特征量进行了分类识别，证明这些算法对通信信号个体识别是有效的。取得的研究成果为：1.对振荡器产生的无意调制进行了研究。根据振荡器噪声的统计特性,在MATLAB中建立了振荡器噪声源模型，仿真分析了单独存在闪烁噪声以及闪烁噪声混合高斯白噪声情况下的时域波形和频域特性。同时还分析了从健伍手持对讲机功放输出的未调射频信号解调恢复的无意调制信号，表明信号的功率谱密度具有幂律的特点，呈现出了闪烁噪声的特点。2.对射频功率放大器产生的无意调制进行了研究。根据射频功放的非线性分析理论，在MATLAB软件中建立了记忆多项式功放模型，并用这个模型仿真了QPSK、WCDMA两种信号的放大，分析计算了因功放引起的信号失真量ACPR（相邻信道功率比）。此外，还对真实射频采样数据的ACPR值进行了计算和分析，结果表明信号带宽越宽，ACPR值越低。从时域上看，射频功率放大器的非线性对信号的影响引起信号幅度以及相位相对于原信号的变化，并且这类变化反映了功率放大器的特征，可以用于通信辐射源的分类识别。3.对信号预处理算法进行了研究。改进了Wornell与Oppenheim提出的噪声分离方法，使其能够用于混合无意调制信号与噪声的分离。首先使用多目标进化优化算法求解非线性方程，得到分形信号的参数估计，然后使用这些估计参数构建分形滤波器，对小波系数进行滤波处理，最后将处理以后的小波系数进行逆变换，得到混合的分形信号。仿真对不同的混合成分、不同信噪比、不同的数据长度的情况进行了分析比较，证明在一定的信噪比条件下，采用足够长度的采样数据进行处理，恢复的混合分形信号具有较小的均方根误差。4.对三种特征提取方法进行了研究。（1）基于多重分形维的特征提取方法：将一维信号变换为二维信号矩阵后得到信号的纹理特性。利用这一特性，通过计算数据阵列的分形维谱而获得了特征矢量。算法仿真表明在提取特征之前进行去噪处理能够获得稳定的信号特征量；（2）基于顺序统计的方法：根据在弱非线性系统中，窄带功率放大器的输入-输出是单调函数的原理，将接收信号做白化处理以后进行顺序统计，通过最小二乘法对顺序统计结果做线性回归而估计出特征参数作为射频信号个体特征；（3）基于高阶累积张量的特征提取方法：推导了接收信号的3阶、4阶累积量与电台个体特征的关系，提出了一种将4阶累积量视为3阶张量、用Kernel PCA方法提取个体特征量的方法。最后用ECOC分类器将这些特征量进行了分类，证明这些方法都是有效的。本文进一步扩展了对通信辐射源个体特征识别的研究，探索和验证了无意调制中提取特征量的新方法。这些方法能用于非合作条件下识别通信辐射源的身份，使识别通信辐射源的手段更为丰富。