随着“中国制造2025”战略的推进,通信技术得到了长足发展。新环境、新需求和新目标对信号检测技术带来了重大挑战,对各种无线环境的监测,尤其是非合作模式下微弱信号的监测,具有非常重要的意义。然而,现有的信号检测理论只能对特定环境下的信号进行有效识别和监测,对非合作模式下的微弱信号进行快速检测和深度认知的能力不足,这严重制约了无线通信管理和检测技术的发展和应用。因此,研究非合作模式下微弱信号的监测和识别技术具有重大的理论和工程意义。该问题首先需要对微弱信号进行预处理,从而降低微弱信号受到的干扰,然后分别对各种应用场景进行研究:针对单个种类微弱信号识别问题,如果数据量较少,那么需要研究小数据样本下微弱信号识别问题;如果数据量较大,那么需要研究大数据样本下微弱信号识别问题;另一方面,如果识别微弱混合信号,则需要研究微弱混合信号分离和识别问题。针对上述问题,本文创新性地提出了各种解决方法和策略,其主要的贡献和创新点如下:1.非合作模式下微弱信号的预处理技术。收发信机之间的频率偏移会严重影响识别精度,而且频率偏移在实际通信系统中是无法完全消除的。然而,传统的频率偏移估计算法在非合作模式下的估计效果较差,无法有效地消除频率偏移。针对该问题,我们提出了一种基于聚类的频率偏移纠正算法,和传统的频率偏移纠正方法相比,本文提出的方法具有更高的精度,能够有效地消除频率偏移。另外,本文提出了基于谱聚类算法的调制方式粗估计技术。谱聚类算法是一种广泛使用的聚类算法,但是传统的谱聚类算法对信噪比较低的信号聚类效果较差,本文发现该缺陷出现的原因在于其距离矩阵构建方式存在缺陷。针对传统谱聚类算法的缺陷,本文提出了一种改进的谱聚类算法,经过实际通信系统的验证,该方法能够有效地识别星座图中的调制方式。然后根据识别后可能的结果构造调制方式候选集,方便微弱信号的精细识别。2.小数据样本下微弱信号精细识别技术。现有的非合作模式下微弱信号的识别方法通常分为两种:基于最大似然的方法和基于特征的方法。针对现有识别方法的不足,本文提出了一种基于字典学习的调制方式识别框架。而且基于该框架,提出了一种名为FBCDDL的新型字典学习算法,该算法有效地解决了现有方法的缺陷:(1).现有方法对干扰的鲁棒性较差,而FBCDDL对干扰的鲁棒性较强;(2).现有方法的复杂度较高,而FBCDDL复杂度较低;(3).现有方法无法保证收敛性,而本文证明FBCDDL能够保证收敛到全局最优解。仿真结果验证了本文提出的方法对噪声、相位偏移以及频率偏移等干扰有较强的鲁棒性,而且具有更低的复杂度和更快的收敛速度。3.大数据样本下的微弱信号精细识别技术。随着业务量的上升,通信系统越来越需要对大数据样本条件下的微弱信号进行处理。本文提出了一种基于卷积神经网络的微弱信号识别框架。该方法首先计算微弱信号的循环谱图,然后利用卷积神经网络对信号的循环谱图进行分类和识别。针对微弱信号的特点,本文在卷积神经网络的代价函数中加入了新的惩罚项。该方法的能够解决现有方法的缺陷:(1).现有方法需要人工提取特征并进行识别,而该方法可以自动地提取特征;(2).现有方法的准确度较低,而本文提出的方法具有较高的正确率。仿真表明,在数据样本量较大的情况下,本文提出的方法具有更高的识别精度。4.非合作模式下微弱混合信号分离和识别方法研究。日益紧张的频谱资源导致一些频段由不同通信系统共用,这使得不同的信号相互混合的情况越来越普遍。本文提出了一种新型的微弱混合信号分离和识别方法,该方法解决了现有非合作模式下微弱混合信号的分离和识别方法的缺陷:(1).现有方法应用场景受限,而本文提出的方法应用场景更广;(2).现有信号识别方法分类精度较低,而本文提出的方法具有更高的分类精度。