无线通信技术的不断革新使得通信方式呈现多样化,但也给无线资源的利用带来了压力。而认知无线电作为提高无线资源利用的一项新技术取得了快速发展。频谱感知技术是认知无线电技术中的一项重要技术,它承担着当授权用户占用频段使用时,认知用户不使用此频段;当授权用户未占用频段时,认知用户快速接入,实现对空闲频段的二次利用。本论文探讨将深度学习应用于频谱感知技术。首先,介绍课题研究背景和认知无线电、频谱感知技术的概念和研究现状。然后,针对四种传统频谱感知技术进行理论分析,通过对比实验深入分析四种方法的优势和劣势,并面对不同的通信环境和通信方式使用不同的检测算法,为提出新算法提供基础的理论支撑。针对深度学习中的人工、循环、卷积神经网络作出简单分析之后,观察激活函数在神经网络中对学习能力的影响,提出了一种应用到卷积神经网络图像分类中的组合式Relutanh激活函数,借助单一激活函数在不同网络层的性能优势来实现。在公开的Mnist和Cifar-10数据集中,通过实验验证所提方法比采用单一激活函数的卷积神经网络模型具有更好的收敛和分类性能。良好的信号检测性能是提高认知无线电频谱感知能力的重要一部分,针对OFDM系统在接收机信号检测方面的问题,在分析OFDM系统的基础上,提出了一种基于循环神经网络的OFDM信号频谱感知算法。首先,搭建OFDM系统框架,利用OFDM系统框架生成供模型学习的时间序列数据集。然后,通过循环神经网络的LSTM模型对时间序列的学习能力,实现端到端的频谱信号检测,应对无线信道中的非线性失真和干扰,提高信号传输的准确性。仿真实验说明,此算法相对于传统的检测算法具有一定的检测优势。针对OFDM信号的载波提取会受到无线传输环境和电磁的干扰,提出一种基于FAM算法的OFDM信号载频估计方法,通过循环谱与干扰噪声的非相关性完成载频估计。仿真实验证明,在低信噪比下,此方法相较于传统的功率谱方法具有更强的载频估计性能。在OFDM信号循环自相关和循环谱研究的基础上,提出了一种基于卷积神经网络的OFDM信号频谱感知算法。此算法是将具有一定循环特性的三维谱图通过归一化和灰度处理转化为灰度图像,在灰度图像具有特点的固定位置随机分配灰度值,以提高数据集健壮性。然后,将经过一系列预处理的数据集输入到改进后的卷积神经网络中完成学习,构建频谱感知模型,把频谱感知问题转化为图像分类问题。仿真实验说明,所提算法不仅能够完成频谱感知,而且,在低信噪比下,相较于其他传统频谱感知算法和基于机器学习的频谱感知算法具有明显的性能提升。