从传统的无线电传输到现今的认知无线电、软件无线电,在通信系统中,对信号调制识别的确认是获取信号信息的第一步,因此调制识别是现代通信技术的关键。在常用的分类算法中,对于低信噪比下的信号识别结果并不理想,本文采用集成学习的思想,通过组合多个分类器,提高通信数字信号调制识别的准确率。首先,本文对8种常见通信数字信号进行了熵特征提取,通过不同的熵特征从能量、时域、频域等多角度描述信号并分析了每种特征对信号的分辨情况。同时通过单一信噪比的仿真实验,分析了基于决策树进行信号识别时,存在的模型结构简单所导致的识别效果不佳的问题。然后,为保留决策树算法的优势并解决识别效果差的问题,本文采用了三种不同的boosting集成算法,通过集成结构简单的决策树模型来获得更高的识别结果。通过对Adaboost、Gradient boosting以及Xgboost的原理分析,从理论上研究了三种算法集成的有效性,并完成单一信噪比实验,验证了集成算法的有效性。此外将单一信噪比实验扩展至未知信噪比下的通信信号识别,继而从泛化性与执行效率两方面分析了boosting算法相比于传统分类器的优势。最后,本文基于贝叶斯假设与贝叶斯理论,提出了置信机器学习方法。该方法不仅能够对未知的数据进行预测,还可以对预测结果进行估计,使得算法的分类结果更具有可靠性,同时为判决者提供更具可信度的信息。