为了满足用户对更高传输速率以及更大带宽的需求,通信网络已经发展成为了由多种接入网络构成的综合通信系统,作为该通信系统中重要的一部分,无线多跳蜂窝网络以其灵活性和易扩展性得到了广泛应用。基于移动中继的多跳蜂窝网络是多跳蜂窝网络的一种形式,其可以看作是移动自组织网络以认知方式存在于蜂窝网络中所形成蜂窝和移动自组织混合网络。然而网络中的移动终端通信采用认知方式并且具有随机移动性,这两点因素将对网络的稳定性产生很大的影响。另外随着网络规模的扩大以及终端数目的增加,数据在终端构建的多跳链路之间如何高效地进行数据传输也成为了不得不考虑的因素。另外一种形式的多跳中继蜂窝网络是基于固定中继的多跳蜂窝网络。网络中大量固定中继的部署给网络运营商带来的不仅仅是效益的提升还有巨大能耗代价,所以如何提高能效是该种网络架构面临的重要挑战。本文针对上述两种多跳蜂窝网络场景中存在的关键问题分别进行了研究,主要内容包括以下两方面:(1)在移动中继多跳蜂窝网络场景下,综合考虑网络中移动终端的剩余能量、网络信道质量以及认知频段的可靠性,融合并改进复杂网络中小世界网络模型与BBV无标度网络模型,提出了一种能显著提高网络稳定性与传输效率的网络拓扑演化模型,并对该模型进行了理论分析与数值仿真。(2)为了提高固定中继蜂窝网络的能效,本文以网络中数据流为管理对象,构建了联合路径规划、速率控制与功率分配的优化策略,并为求解网络整体功耗与网络容量联合最优的问题设计了基于蚁群算法与凸优化的集中式算法。算法以改进的蚁群算法为框架,融入了凸优化中的牛顿迭代法,通过有限的迭代达到网络能耗与网络容量的联合最优,并得到最优状态下的数据流路径、速率与节点功率。该算法在保证用户服务质量前提下,实现了整个网络功耗和容量的联合优化。