现有的无线频谱分配方案导致频谱使用率与日益增加的无线通信业务量之间产生了巨大的矛盾，而认知无线电则是解决该矛盾的核心技术。认知无线电用户通过智能感知周围电磁频谱环境来获得巨大的无线通信频谱使用机会及无线带宽，从而大幅度的提高了频谱使用效率。然而频谱感知技术面临着以下几个主要挑战:一是传统的检测方法在低信噪比下的性能很差，或者计算复杂度很高；二是检测宽带频谱需要付出很大的硬件代价；三是单独的认知用户受到信道衰落等因素的影响导致其频谱检测效果不稳定。本文针对以上三个问题逐步展开课题的研究。首先，本文提出了一种基于机器学习的模块化频谱感知系统。目前已有一些成熟的技术来实现频谱感知，比较典型的包括：似然比估计，能量检测，匹配滤波器，循环谱检测，以及近两年提出的基于统计方差的检测算法；这些方法都有各自的使用条件和优缺点。其中能量检测是一种用途非常广泛的频谱检测方法，它不需要知道主用户的先验知识，而且它对于信道的变化与衰落的鲁棒性很高。但是能量检测法却有两个缺陷，其一是能量检测法需要对噪声功率有很准确的估计，不准确的噪声估计会导致信噪比墙效应以及很高的虚警概率。其二是在主用户信噪比低而且检测所需的采样点数很小时能量检测的性能也很差。如上所述，能量检测的一个主要缺陷是在主用户信噪比较低，检测采样数很小时，它的性能会急剧下降，为了解决这个缺点，本文主要针对单节点单天线的频谱感知问题提出了一种基于机器学习的模块化频谱检测方法，该方法主要是用非线性门限来代替传统能量检测中的线性门限来解决频谱感知问题。其次，本文提出了一种基于单任务压缩感知的宽带频谱感知方法，从压缩感知观测值获取角度着手，本文提出了一种基于Walsh码的压缩感知观测矩阵。首先从压缩感知的基本原理入手，研究了RIP条件及JL引理，分类总结了目前常用矩阵的构造方法。在此基础上研究了几种目前常用的观测矩阵，给出其具体的构造方法，分析了这几种观测矩阵的性能。部分哈达玛观测矩阵在时域和图像信号仿真中均表现出优异的性能，所以又对其进行了进一步的研究，提出了一种基于沃尔什码的改进型哈达玛矩阵构造方法。从信号重构角度着手本文提出了基于相关向量机的压缩感知重构算法，将压缩感知中的信号重构问题当做相关向量机中的回归问题来解决。其中将压缩感知的观测数据作为相关向量机的训练数据，将稀疏信号当做回归问题中要求的权重向量。通过观测值对相关向量机进行训练，进而求得稀疏信号中的非零点。仿真结果表明，本文提出的方法可以有效地解决单独认知用户对宽带频谱感知的需求。最后本文提出了一种基于多任务压缩感知的宽带协作频谱感知算法，在宽带认知无线电网络中，频谱感知是一个使得动态频谱分配任务能够实现的重要基础，但是却面临着几个主要的技术性挑战：一是宽带数字信号处理需要非常高的采样率；二是单个认知用户的计算能力和能源都是有限的；三是整个宽带频谱存在频率选择性无线信道衰落。针对以上几个问题我们提出了一种基于多任务压缩感知的协作频谱感知来解决宽带频谱感知所面对的这些挑战。为了有效的减少数据获取的代价，采用了一种根据宽带频谱稀疏特性的压缩采样机制。为了获得空间分集增益以对抗无线信道的衰落，多个认知用户将协作进行多任务压缩感知来重构整个宽带频谱使用情况。