认知无线电技术可以对空闲频谱进行实时化探测,实施智能化的频谱管理策略,极大地提高通信效率,而频谱感知是认知无线电系统中的关键性技术之一,可以感知到频段中的频谱空穴,以便于及时准确地分配出可用频段,从而提高频谱利用率。信道估计则可以使信道中授权用户信息的感知结果更加准确,更加有效地保障认知无线电中频谱分析与频谱决策的过程。因此,本文以无线通信网络中的频谱感知和信道估计为研究对象,在传统算法的基础上,结合当下热门的机器学习与深度学习技术,进行智能频谱感知和信道估计算法的研究,论文主要工作和创新点如下:针对传统频谱感知算法在低信噪比下检测性能不佳以及部分算法训练复杂度较高的问题,本文提出了一种基于机器学习的LDA-XGBoost智能频谱感知算法。该算法首先根据信号的循环谱提取三维的特征向量,利用循环平稳特征可以提高抗噪声性能,然后使用线性判别分析算法对特征进行降维,降低相似特征冗余度的同时,也提高了后续算法的训练速度,最后根据特征变换后的样本,使用极限梯度提升树算法训练频谱感知模型。实验结果表明,对于不同的主用户信号,本文算法在低信噪比下相对于另外几种智能算法有更好的检测性能,同时拥有更快的训练速度。针对传统信道估计算法在有复杂信道畸变和干扰的无线通信中,性能不足的问题,本文提出了一种基于深度学习的CovBiLSTM-FC智能信道估计算法。该算法结合了传统的信道估计策略,在深度学习网络的输入端充分利用信道数据,并使用由LS估计得到的信道频率响应作为输入样本,提高了网络收敛速度。之后,再经过三个层级的神经网络进行训练,首先CNN网络接收从OFDM系统中获取的信道训练数据,提取其中的导频和信道频率响应的特征值,然后BiLSTM网络可以从正反两个方向分别学习和预测序列中的相关信息,最后通过FC网络层进行完全地非线性变换,输出信道频率响应估计值。CovBiLSTM-FC在充分利用信道数据的基础上,通过多层神经网络分步处理,可以最大化学习到信道的变化特征,并智能化去拟合信道分布,动态输出信道估计结果。最终经过仿真验证,相比于传统的LS、LMMSE估计算法以及基于神经网络的DNN算法,在不同信噪比下,本文所提出的CovBiLSTM-FC信道估计算法具有性能提升。