随着人类对海洋资源及其战略地位认识的深化,相关的水下技术引起了学术、工业、军事等各方面越来越多的关注。而水声通信作为水下技术的基础环节,有着重要的研究价值和科研地位。水下非合作通信的研究,更是以保障海洋安全为目的的具体研究方向。它旨在在水下通信中从第三方对通信信号进行截获、破解,完成通信信息的还原。而其中,水声通信信号的调制检测识别是破解信息的关键一步,它主要是在未知发送端调制信息的前提下,确定发送端数字信号的调制类型及调制阶数,为后续的信号解调、干扰识别提供有效的信息保障。水声信道窄带宽、长时延、多径明显,且水下环境复杂多变。又由于调制检测中,接收方没有先验知识,是对信号的一种“盲”检测。另外,近些年来随着水下保密通信研究的深入,各种先进的、新型的调制方式都被用在了水声通信中。因此,我们需要研究新的算法来解决水声通信中的调制检测所面临的巨大挑战。本文正是以水下非合作通信为具体的应用背景,针对用于水下保密通信的基于混沌序列的多进制混沌频率调制、多进制混沌相位调制两种调制方式,对在接收端截获这两种信号的调制检测识别算法进行研究,具体研究成果简述如下:研究了基于瞬时特征的水声通信中混沌调制检测问题。针对水下保密通信提出的多进制混沌频率调制(Chaotic M-ary Frequency Shift Keying,CMFSK)和混沌多进制混沌相位调制(Chaotic M-ary Phase Shift Keying,CMPSK)信号模型设计了基于瞬时特征的检测识别算法,利用该方法在水下非合作通信中以第三方接收端对该信号进行调制检测识别。该算法主要为提取接收端截获信号的瞬时相位、瞬时频率后,利用瞬时相位与瞬时频率设计了三个与之相关的新的瞬时特征,将其用于评估检测混沌调制信号。将三个瞬时特征进行分层次、多级检测并设计合理的阈值,通过求出的信号的瞬时特征值与阈值比较后区分识别,共识别了2FSK、4FSK、C2FSK、C4FSK、2PSK、4PSK、C2PSK、C4PSK八种信号类型。通过仿真验证了八种不同调制的信号通过AWGN信道和Bellhop水声信道后,在接收端进行调制检测,得到了较高的检测率,证明了所提算法的可行性,并为后续实验验证提供了依据。研究了基于循环谱特征的水声通信中混沌相位调制检测问题。针对瞬时特征的检测识别算法只能检测出混沌相位调制信号的调制类型而无法识别出调制阶数的问题,利用信号的循环谱特征对混沌相位调制信号进行检测识别。利用循环谱密度函数中循环频域上的最大值和频域上的最大值的比值设计了新的循环谱特征,将其用于评估检测C2PSK、C4PSK信号。并利用信号通过Bellhop水声信道的接收信号的循环谱特征的概率密度进行阈值的估计工作。因此,和基于瞬时特征的调制检测方法进行整合,形成一套完整的、多层次的调制检测算法,可检测包括混沌调制在内的共八种信号类型,并可区分出各种信号的调制阶数,该算法简洁、易操作、设计合理时效果较为理想。开发了水声调制解调器实验平台以及实验验证了提出的基于瞬时特征和循环谱特征的调制检测算法。简要介绍了已完成部分开发的基于软件定义的水声调制解调器与AquaSeNT水声调制解调器,并分别从硬件架构、软件界面、应用的关键技术等方面给出了具体的方案以及开发成果。利用AquaSeNT水声调制解调器,对提出的基于瞬时特征和循环谱特征的调制检测算法进行了湖试实验的验证,实验结果表明该算法具有很好的调制检测效果。