随着现代通信和雷达技术的不断进步,在非协作无线电通信领域,信号的调制识别和分选技术变得越来越具有其重要性,尤其是在无线电监测或战场通信等领域中。如何能更为有效地对侦收到的感兴趣的信号进行信号处理,是目前国内外学者都非常感兴趣的一个重要研究课题。本文主要针对非协作通信系统中的侦收信号的调制方式进行识别和分类算法的研究与分析。这些研究和分析主要从几个方面进行考虑:信号预处理过程中的参数估计问题、基于聚类算法的相移键控(Phase-Shift Keying,PSK)和正交振幅调制(Quadrature Amplitude Modulation,QAM)信号识别算法研究、基于分形特征的典型数字通信信号识别算法研究、基于雷达脉冲信号的分选技术研究,以及相位噪声对识别技术的影响研究。首先本文针对信号预处理过程中的参数估计问题进行了探讨,针对几个主要的特征参数的估计算法做了详细的研究和分析,并针对非协作通信系统中,数字信号符号速率和侦收信号的信噪比两个重要参数的估计提出了改进的方法。针对盲估计过程中过低的小波尺度会在低频部分引入较强的噪声这一问题,本文提出了一种基于小波变换(WaveletTransform,WT)和两种不同类型中值滤波相结合的联合估计方法。同时,针对接收信号的信噪比估计,本文也提出了一种改进的方法以提高估计的准确性。仿真实验验证了这两种改进方法的有效性。并不局限于单纯的信号序列处理方式,本文引入图像处理中的聚类算法,以减法聚类和模糊C均值聚类两种聚类算法为基础,分别展开这类算法在信号调制识别和分类中的应用研究。在减法聚类的基础上,本文提出了一种基于PSK信号相位周期性的改进的聚类方法,通过这种聚类方法与合适的统计参量相结合,达到对PSK信号的有效分类和识别的目的。另一方面,本文还提出了一种改进的自主导向式模糊C均值聚类算法对QAM信号的星座图进行重构,通过对聚类过程进行自主式的导向,使整个聚类过程变得更加精准且有效率,从而完成QAM类信号的有效识别。分形理论也是近年来新型识别技术研究的热点。因此本文也从分形特征的角度,对典型的数字通信信号的调制识别算法进行了研究和分析。针对一些常用的数字通信信号,提出了一种基于分形盒维数和信息维数联合特征的信号调制识别方法,并得到了仿真实验的验证。除了常规的无线电通信系统,雷达系统也在军事活动监测等非协作领域有着非常巨大的需求和前景。因此本文也针对典型的雷达脉冲信号,从雷达信号的脉内调制特征和脉间特征参数两方面入手,对它们在雷达脉冲信号的识别与分选技术进行了研究和分析。基于脉内调制特征的雷达信号识别主要从时频分析方法上入手进行研究。同时,在基于脉间特征参数方面,本文针对基于脉冲重复间隔(Pulse Repetition Interval,PRI)的雷达脉冲信号分选算法,提出了一种改进的基于序列差分直方图的分选算法。这种改进方法从潜在脉冲重复间隔估计值的筛选和序列的新检索方法入手,有效的提高了雷达脉冲信号的分选性能。由于本文考虑的背景是非协作通信系统,信号在发送、传输、接收过程中不可避免的会引入较多的非理想因素。本文主要选择相位噪声这种非理想因素,针对它在侦收信号的调制识别过程中产生的影响进行了研究和分析。另外,本文提出了一种基于多通道的相位噪声校正系统,并申请了专利。这种校正系统采用智能分析和反馈模块,能有效的对相位噪声进行校正,从而提高了信号调制识别的准确性。