随着无线终端数量急剧增加,无线通信的频谱资源正面临激烈的竞争。另一方面,授权频谱的低利用率已经受到人们重视。这正是一对矛盾,而富有潜力的认知无线电技术正是为解决这一对矛盾而诞生。认知无线电技术通过频谱感知发现“频谱空洞”或通过周围无线环境调整系统参数实现次用户与主用户频谱共享,来容纳数量激增的用户终端。同时,多输入多输出(MIMO)技术由于其能够通过多天线提供更高的容量和更优异的接收性能已被广泛认为是一项富有前景的技术。随着科技的不断进步和发展,未来将出现MIMO技术在认知无线电网络中的应用。随着用户数的不断增加,认知无线电网络中多MIMO次用户的调度和其MIMO的物理层安全将会引起人们的注意。本文以认知无线电网络为背景,侧重研究该环境中的MIMO技术,包括两方面：1.多MIMO次用户网络中的调度方案；2基于物理层,为应对共享同一频谱的非法次用户对合法用户的窃听的方案设计。对应之,本文提出的两个创新点如下：针对认知MIMO多次用户网络的次用户调度,本文提出了两种方案：TDMA和TDMA+SDMA。两种方案都考虑在接收端进行天线选择降低复杂度,并基于迹设计调度用户方案,减少上行反馈量。第一种方案考虑每个时隙调度一个次用户,次用户基于各自容量最大化进行天线选择,各用户基于经过天线选择后的信道状态计算迹,并通过反馈迹至基站完成调度,反馈量为一标量。第二种方案考虑每个时隙调度多个次用户,每个次用户通过天线预编码后选择条件最好的一副天线,调度用户时,联合考虑了次用户信道与主用户信道的相关性以及第一种方案中的迹,反馈量为向量。仿真结果表明：第一种提出的方案在网络吞吐量能够逼近发射端已知CSIT的调度方案。第二种方案由于在每个时隙服务多个次用户提升了次用户网络吞吐量,吞吐量要远高于第一种方案,但次用户的平均吞吐量要低于第一种方案。针对认知无线电网络中共享频谱后可能存在的安全威胁,本文提出了一种基于物理层的安全方案。该方案考虑信道信息和人工噪声加扰等两部分,设计一种保护合法主用户的信道信息正常获取和数据的正常去扰,而非法次用户无法正常处理这两部分信息的方案。仿真表明：合法主用户以低BER接收数据,而非法次用户以BER接近0.5的对接收数据进行随机猜测,并且提出的方案相比单纯人工噪声方案在安全容量上有较大的提升。