随着通信技术的飞速发展,通信设备的更新换代,通信信号处理技术面临着严峻挑战,迫切需要研究新技术来满足时代的需求。神经网络技术作为当今机器学习领域下最热门的分支,被广泛应用于图像、语音和医学等领域。鉴于神经网络算法在其他领域的成熟应用,本文将该算法应用于信号处理领域,利用新兴技术解决传统方向难题,具有极大的研究价值。本文以通信信号分析与处理为背景,重点研究了基于神经网络的信号检测、识别与解调算法,主要贡献和创新点如下:1.针对宽带多信号检测问题,本文设计了一种基于深度神经网络的信号检测模型。该算法主要分为两部分:宽带信号预处理和检测模型。预处理方面,首先分析了信号在时频谱图上的特殊呈现,采用时频谱图作为网络样本,并给出了样本处理的标准流程。检测网络方面,主要以当今热门的YOLO v3检测模型为原型。在此基础上,针对本文多信号检测问题对模型中的相关参数进行了适应性改进。理论和仿真实验表明,本文算法可直接对宽带数据进行处理,能够在低信噪比条件下检测出信号的中心频率和起止时间,且对时频混叠和色噪声不敏感,适合工程应用。2.针对幅相调制信号识别问题,本文设定的待识别集合为{BPSK、QPSK、OQPSK、8PSK、16QAM、16APSK、32APSK、64QAM}。本文首先提出了基于经典卷积神经网络的调制识别算法,该算法以信号矢量图为网络样本,选取几类经典的卷积神经网络作为识别模型。样本方面,结合信号相关属性以及网络对不同色彩的识别能力,对样本进行了适应性增强。为进一步提升算法性能,本文提出了基于多端卷积神经网络的识别模型,该模型将信号矢量图和眼图共同作为网络样本,实现不同维度的特征提取。实验结果表明:与现有方法相比,该方法从信号的浅层特征出发,从不同维度认识信号并学习到较为鲁棒的特征,识别性能优于其他算法。3.针对特定规格信号识别问题,提出了基于扩张残差神经网络的识别算法。本文首先介绍了特定规格信号的概念以及此类识别任务的现实需求。通过理论推导几类典型的特定规格信号在时频谱图上的视觉特性,总结了基于时频谱图的特定规格信号识别的方案的可行性。考虑信号在时频谱图上具有可分类特征的空间分布较小,提出了基于扩张卷积的神经网络结构,并给出了标准化处理流程。最终,本文以7类典型的特定规格信号作为待识别类型,以此验证算法性能。实验结果表明:相比其他算法,本文算法识别性能更优,且在低信噪比以及时频混叠等复杂信号环境下依旧能保持较好的鲁棒性。4.针对幅相调制信号解调问题,提出了基于卷积神经网络的信号解调算法。本文以基带复信号过采数据为网络样本,通过搭建卷积神经网络对样本进行特征提取。仿真结果表明,在高斯白噪环境下,算法的解调性能接近最佳接收机性能,验证了基于深度神经网络的信号解调算法的可行性,同时也为后续研究基于神经网络的PCMA信号分离奠定了基础。5.针对PCMA信号分离问题,提出了基于卷积神经网络的分离算法。网络样本采用复基带过采数据。在原有解调网络的基础上,提出了双标签网络,实现了QPSK调制和8PSK调制的PCMA信号分离,分离速度满足实时性需求。在此基础上,进一步讨论了信噪比、幅度比以及时延差等对性能的影响,为高阶调制的PCMA信号分离提供了新思路。