面向2020年及未来,移动互联网和物联网业务将迅速增长,超高流量密度、超高连接数密度、超高移动性特征的应用场景将越来越普遍。面对用户对通信系统日益剧增的性能需求和容量需求,低效的静态频谱分配策略已经不再适用。而具备动态感知、机会接入等特点的认知无线电(Cognitive Radio,CR)技术可以较好的适应这一需求,被广泛认为是提高频谱效率和解决频谱危机的关键技术之一。频谱感知是认知无线电的前提和基础。频谱感知的主要任务就是检测授权频段是否空闲,其感知性能对于整个认知无线电系统来说至关重要。论文围绕认知无线电中的频谱感知问题,研究了基于样本协方差矩阵元素统计分布特性和基于Wishart矩阵谱分布特性的协作频谱感知方法,主要内容如下:(1)从实际应用出发,首先分析了单用户检测的不足,然后根据相关标准对CR检测性能的要求,指出了将随机矩阵理论应用到协作频谱感知中的必要性。(2)研究了随机矩阵中最为重要的样本协方差矩阵和Wishart矩阵的相关分布特性。重点研究了样本协方差矩阵非对角线元素绝对值之和与对角线元素绝对值之和的分布特性以及Wishart矩阵的非渐近谱分布特性。(3)针对多用户协作感知场景,分析了现有的基于样本协方矩阵的检测算法的不足。在样本协方差矩阵统计分布特性的基础上,推导了样本协方差矩阵非对角线元素绝对值之和以及对角线元素绝对值之和的概率密度函数(Probability Density Function,PDF)和累积分布函数(Cumulative Distribution Function,CDF)。然后以样本协方差矩阵非对角线元素累和与对角线元素绝对值累和之比作为统计检验量,提出了改进的协方差矩阵绝对值(Improved Covariance Absolute Value,ICAV)感知算法。理论分析与仿真结果表明,ICAV算法较已有的协方差绝对值感知算法具有更精确的判决门限,同时较其他协方差类的感知算法具有更好的检测性能。(4)针对基于随机矩阵渐近谱分布的感知算法的不足,将随机矩阵的非渐近谱理论应用到协作频谱感知中,提出了一种改进的精确最大最小特征值之差(Exact Maximum Minimum Eigenvalue Difference,EMMED)的协作感知算法。对于任意给定的协作用户个数K和采样点数N,首先推导了最大最小特征值之差的精确PDF和CDF,然后利用该分布函数设计了所提算法的判决阈值。理论分析与仿真结果表明,EMMED算法的判决阈值比已有的渐近阈值更为精确,同时较其他基于特征值的算法具有更好的检测性能。