调制识别技术是指在非合作通信系统中,接收端在信号调制信息未知的情况下,判定接收信号调制样式的技术。随着人工智能技术的发展,将机器学习算法应用到调制识别领域已经成为了主流趋势。机器学习算法和传统调制识别算法相比,最大的优势在于出色的特征提取能力和分类能力。因此,本文对基于机器学习的数字信号调制识别技术进行了深入研究,主要成果如下:1.提出一种以多维度特征为输入的进化神经网络(Evolutional Neural Network,ENN)。该方法以信号的多种维度上的特征作为输入,基于遗传算法自动优化网络结构和优化超参数,进化出调制识别性能最优的神经网络。结果显示,在各个信噪比下,本文提出的方法调制识别准确率与传统方法比均有提升。2.从样本增强的角度出发,提出基于快速梯度攻击算法(Fast Gradient Sign Method,FGSM)的信号对抗样本的样本增强方法。该方法能够实现样本集的扩充和增强,训练更具鲁棒性和迁移性的卷积神经网络。结果显示,使用本文方法生成的对抗样本进行网络微调,能够有效缓解过拟合问题,提高低信噪比下调制识别准确率。3.从信号预处理的角度出发,提出连接型卷积降噪自编码器(Connected Convolutional Denoising Auto-Encoder,CCDAE)的信号预处理方法。该方法能够对原始信号样本进行降噪,进而提高调制识别的准确率。4.从网络结构出发,提出基于遗传算法的深度进化卷积神经网络(Deep Evolutional Convolutional Neural Network,DECNN),该方法以信号原始数据为输入,基于遗传算法优化网络结构和超参数,能够自动设计出准确率最高的调制识别模型。5.提出基于深度嵌入特征的未知调制样式信号的识别方法,该方法提取使用了交叉熵和Triplet Loss损失函数先后训练的信号嵌入特征,基于皮尔逊相关系数进行未知信号和已知信号的特征相似度衡量,能够在保证已知调制类型信号识别准确率的前提下,将未知调制类型的信号进行识别。以上工作,均已通过实验仿真验证,可以构建一套基于机器学习的调制识别流程方案,解决调制识别中出现的样本失真、过拟合、识别准确率低、人为工作量大和未知调制样式信号的识别等问题。