通信技术正以日新月异的速度发展,其中以通信信号各种调制方式的变化和进步尤为突出,通信信号调制方式分类识别研究也相继发展起来。由于信号环境的日趋密集,使得常规的识别方法和理论很难适应实际需要,无法有效地对通信信号进行识别,对数字通信信号的识别研究提出了更高的要求。调制方式分类识别在合作领域和非合作领域都具有重要的意义。在合作领域中,调制方式分类识别是软件无线电通用接收机和认知无线电智能接收机的关键技术基础,同时也是瓶颈和核心。调制方式也广泛应用于政府实施有效无线频谱管理、监视民用信号等方面。在非合作领域中,调制方式分类识别更起到了关键的作用。未来战争是以信息优势为基础,这使得通信在战争中的地位变得尤为突出,通信对抗已经成为现代战中电磁领域斗争的焦点。通信对抗需要截获敌方的信号,掌握信号中承载的信息内容,而调制方式分类识别是这一过程的基础。在各种无线通信信号类型中,卫星通信信号占有很大的比例,因此能对卫星通信信号进行调制方式的分类识别具有很高的实用价值。由于卫星无线通信环境的复杂性,特别是战场环境下的不可预知性,使得传统的调制分类识别方法性能下降,难以满足现代战争的需要。因此非理想环境下的调制方式分类识别逐渐引起了人们的重视。在此背景下,本文重点对非理想情况中的大范围信噪比变化下和衰落信道下卫星通信信号的调制方式分类识别算法进行深入和系统的研究。首先,对盲信噪比估计进行研究。信噪比是信号质量的重要衡量标准,对后续的盲均衡和调制方式分类识别算法起到铺垫作用。提出基于子空间和联合信息标准的盲信噪比估计算法,不仅更适用于小样本估计,还可以扩大估计范围。这种算法既适用于加性高斯白噪声信道,也适用于衰落信道。其次,为减弱非理想信道对信号的影响,对信道盲均衡进行深入研究。分析在卫星信号截获中存在的星间链路信道和星地信道,并给出对应的数学模型。在信道盲均衡算法基础上,对超指数算法进行改进,提出一种新颖稳健的超指数算法。这种算法先对信号的噪声功率进行估计,并通过这个噪声功率估计值来减小噪声影响,然后采用二阶累积量和四阶累积量相结合的方法对信道进行均衡。该算法减弱了噪声,克服了原超指数算法在低信噪比下不能维持收敛的缺点,同时保持了收敛速度。再次,将支持向量机和神经网络进行比较,支持向量机不仅结构简单,而且有较强的泛化能力,它可以避免神经网络中的过学习、欠学习和局部最小点等缺陷。针对目前调制识别算法存在的问题,提出了基于支持向量机的三种调制方式分类识别的算法。第一种算法为支持向量机模糊网络,它将多个分类器的结果通过一种新的模糊积分融合在一起,使得算法可以在大的信噪比范围内对信号进行识别,尤其在低信噪比下的识别率比较高。第二种算法为支持向量机自适应调制分类识别算法,它需要借助第二章中的信噪比估计值来选择合适的分类器对信号进行分类,仅使用单个分类器就能够实现大范围信噪比识别能力。第三种算法是基于小波和小波支持向量机调制分类识别算法,将改进的重点放在训练过程上,提出一种改进的训练分类器的方法,来扩大单个分类器信噪比的识别范围。本文也分析了载波误差对识别正确率的影响,仿真结果表明调制方式分类识别算法允许在一定范围内的载波偏差,而且组合分类器比单个分类器具有更好的抑制载波偏差的能力。最后,利用调制方式分类识别试验系统,将部分调制分类识别算法移植到硬件平台上。由信号源发生器E4438产生信号,对算法在硬件平台上的性能进行深入的研究。本文也给出了调制方式分类识别试验系统与卫星测控通信地面站相结合,对某一在轨卫星侦收识别的结果,验证算法的工程可行性和有效性。