随着无线通信技术的发展，在合法用户与非合法用户之间对频谱的需求的竞争便应运而生。然而，研究表明直接导致频谱利用率低的原因是现行的固定分配策略。为了解决此问题，认知无线电便应运而生。认知无线电技术是指在主用户未接入的空闲期内（称为白空间或频谱空洞），认知用户利用此段时间进行接入，这样就提高了整个频谱利用效率。调制识别技术是认知无线电中的一个关键技术。调制识别系统是指在含噪情况下，能够对输入信号的调制方式进行正确分类的系统。现有的调制分类方法主要有两大类：一类是基于统计特征的调制识别，另外一类是基于假设检验理论的调制识别。本文主要是对单一和混合信号的调制识别技术进行研究。根据调制信号经过小波变换或者Wigner-Ville变换后的不同分布情况，本文提出了两种基于统计特征的的调制识别算法，并将其应用于单一信号的识别和混合信号的识别中去。本文的研究内容和主要贡献如下：（1）介绍了认知无线电的背景知识，给出了认知无线电的基本概念和关键技术，然后对认知无线电中调制信号的识别进行了一些分析和介绍。（2）对后面所提出的算法中涉及到的小波变换和Wigner-Ville分布进行一些理论介绍，为进一步分析打下理论基础。（3）基于信号的Wigner-Ville变换后的统计特征，提出了一种认知无线电中非合作信号调制识别算法。算法在高斯信道情况下的计算机仿真实验中，识别性能较好。（4）根据信号的小波变换后的特征，提出了一种既能在高斯信道下，又能在瑞利衰落信道下进行调制识别的算法。大量的计算机仿真实验表明，该方法能够有效的在上述情况中进行调制识别。（5）基于混合信号的特征提取，提出了一种应用于异构网络中的新的混合调制信号识别算法。仿真实验表明，该方法能够有效的识别多个混合信号的调制方式。