近年来，随着无线通信应用领域的快速发展，可供分配的频谱资源显得日益紧张，然而在对频谱利用情况的检测中发现频谱的利用率却十分低下，致使现今这种固定的频谱分配方式已难满足当前对无线通信技术发展需要，在这样的背景下，出现了认知无线电这一全新的通信理念并得到通信领域科研人员的广泛关注。认知无线电被认为是可以解决当前频谱紧张问题的未来通信方式的主要备选方案之一，频谱感知是确保认知无线电系统能够正常应用的关键技术之一。由于实际通信系统中存在的噪声不确定性以及授权用户信号信息未知等特性，使一些传统的频谱感知算法难以满足认知无线电的频谱检测需要。如何在已知信息较少的前提下高效地检测频谱空洞成为当前认知无线电领域里研究的热门课题。当前，主要的频谱检测算法大致有三类：基于授权用户发射机的频谱检测算法、基于多感知用户协作的频谱检测算法和基于干扰温度的频谱检测算法。由于基于干扰温度的频谱检测算法在实现上难以获得授权用户处的干扰温度值，所以基于授权用户发射机的频谱检测算法和基于多感知用户协作的频谱检测算法成为当前频谱感知技术研究的主流方向，针对不同的检测环境需要，已经取得了大量的研究成果。例如，基于授权用户发射机的频谱检测算法主要有能量检测、匹配滤波器检测、周期平稳检测、小波检测和特征值检测等相关算法。虽然这些算法在一定程度上解决了频谱感知的需要，但在检测过程中，对于系统的环境噪声以及授权用户信号特征等信息均有不同程度的依赖，针对这些问题，本文提出了不同的解决方案。论文的前两个章节对认知无线电系统中的频谱感知问题的研究背景和意义做出简要的阐述，随后介绍了目前国内外对频谱感知问题的研究现状，分析了现存频谱感知算法的主要问题。在第二章主要对频谱的分类以及频谱空洞的定义和分类做了简要的介绍，并对频谱感知算法的分类以及当前常见的几种频谱感知算法进行了比较详细的分析。为了找到可供使用的空闲频带，感知用户需要在一段较宽的频带上检测各子频带上的授权用户是否存在，然而面对众多不同调制类型的授权用户，感知用户很难掌握所有授权用户的信号信息，所以感知用户需要一个能在信号信息未知的条件下有效检测授权用户信号的检测算法。本文提出一种基于广义似然比的检测算法，该算法对未知的信号参数进行估计，依据Neyman-Pearson准则给出一个在虚警概率固定时，使检测概率达到最大的检测统计量，通过计算机仿真实验验证了该算法在信号参数未知的前提下能够有效的检测授权用户，并在较低的信噪比环境中也表现出良好的检测性能。针对授权用户信号经历一个衰落信道到达感知用户接收端的情况，提出了基于压缩感知理论的合作检测算法，首先给出了宽带多用户检测的系统模型，利用模型给出了信道参数的估计算法，再结合最小欧几里德距离算法给出了授权用户信号的估计，通过压缩感知理论进一步提高信号的信噪比增益，从而提高感知用户的检测性能，最后利用分步式平均一致算法给出合作检测结果。计算机仿真实验分析了所提出的算法在不同压缩比条件下的检测性能，并给出了信噪比增益随压缩比和信噪比的变化曲线，验证了本文算法的有效性。随着无线通信技术的飞速发展，人们对高速率数据传输的需求越来越大，本文针对采用多天线OFDM传输系统的授权用户信号进行研究，根据信号的自身特性，提出了一种基于循环前缀相关系数的特征值检测算法，该算法给出了在不同假设条件下的协方差矩阵的最大最小特征值表达式，利用最大最小特征值的比值得到检测统计量，并给出相应的检测概率和虚警概率，同时给出了检测门限的表达式，最后，通过计算机仿真实验给出了本文算法的检测性能。隐藏终端一直是认知无线电系统频谱感知环节必须面对并亟需解决的问题，由于无线通信中出现严重的信道衰落或者由于建筑物对信号的遮挡很容易引起隐藏终端问题，这给感知用户的频谱检测工作带来一定的困难，针对这一问题，本文提出了一种基于非固定集群的合作频谱感知算法，该算法由感知用户周围的各个感知节点组成众多非固定的检测集群，与感知用户协作共同完成频谱感知工作，由于采用非固定集群，所以检测的灵活性和检测效率都有一定提高，通过计算机仿真实验也验证了本算法具有良好的检测性能。最后，在第七章对全文进行了总结，并展望了下一步的研究工作。