多输入多输出(MIMO, multiple input multiple output)技术是突破香农(Shannon)容量限制的一项有效手段。在无需拓展频谱的情况下，MIMO技术利用多接口多信道同时进行数据传输，能够成倍提高无线多跳网络的系统容量、频谱使用效率，节约频谱资源。同时，MIMO技术对多跳无线网络的吞吐量、实时性、拓扑连通性等性能有显著影响，并可结合物理层、MAC层与网络传输层进行跨层优化研究。而认知无线电(CR, cognitive radio)内嵌智能信息处理器，具有感知外界频谱资源的能力，其根据感知到的信息灵活调整发送与接收参数，使得非授权用户(SU, second user)能够动态使用分配给授权用户(PU, primer user)的空闲频谱资源，从而提高网络性能。融合MIMO和CR两种技术可以显著改善现有网络拥堵状况，其具有广阔的应用场景，因此研究基于MIMO和CR的无线网络跨层优化技术具有非常重要的意义。在对国内外研究现状和实际运用进行了深入研究的基础上，本文提出了简单有效且可以分布式执行的算法来求解MIMO多跳认知无线电网络跨层优化问题。本文的主要工作和结论如下：(1)在Ad Hoc网络中，针对节点发送功率限制、信道容量限制，提出了平坦衰落下绿色MIMO多跳认知无线电网络模型，解决了权重网络效用最大化与功率消耗问题。利用对偶分解算法将原问题分解为网络传输层和物理链路层子问题。网络传输层子问题为凸问题，物理链路层子问题为非凸问题。对于网络传输层子问题，采用分布式牛顿算法来求解，而对于物理链路层子问题，则采用可分布式执行的基于线性化的交替更新算法来求解。主问题的非凸性导致了对偶分解算法可能无法得到原问题的可行解，本文通过有效的启发式方法来恢复至可行解。(2)在研究点(1)的基础上，提出了频率选择性衰落下MIMO多跳认知无线电网络模型，并考虑了二级用户之间的干扰，该问题模型具有广泛的应用场景且变得更加复杂，解决了网络效用最大化问题。同样，本文采用对偶分解方法将原问题分解为网络传输层和物理层子问题。网络传输层子问题与研究点(1)的网络传输层子问题类似。对于物理层子问题，将其等价为权重和最小化均方误差(WMMSE)问题，通过设计线性收发器优化算法来求解WMMSE问题。主问题的非凸性导致了对偶分解算法可能无法得到原问题的可行解，同样，本文通过有效的启发式方法来恢复至可行解。(3)研究点(1)与研究点(2)的网络传输层子问题是凸优化问题。可以使用分布式牛顿法来求解该问题，为了提高分布式牛顿法的适用范围，本文将网络传输层子问题拓展至无线传感网络。无线传感网络应用广泛，其性能与路由选择和流控制密切相关。本文设计了具有二阶收敛性能的分布式牛顿法来实现网络效用最大化。通过矩阵分裂技术，实现了只需要单跳信息交互来更新对偶方向的分布式求解方法。