随着现代无线通信系统的高速发展，人们对下一代无线通信系统的小区边缘用户覆盖、网络吞吐量、设施建设成本及传输速率等方面提出了更高更严格的要求。而中继技术作为未来4G网络的关键技术之一，可以有效地解决传统的正交频分多址(Orthogonal Frequency Division Multiple Access, OFDMA)系统所面临的一系列挑战性问题，从而大大提升系统的整体性能。因此，将中继技术和OFDMA相结合并应用于无线通信系统中，得到了学术界和产业界的高度关注和广泛认可，并逐渐成为无线通信系统的发展趋势之一。中继增强的OFDMA系统中，由于中继的引入，使得系统对频谱资源的需求加大，同时增加了资源调度的复杂度。因此，合理地进行资源调度和分配成为一个极具挑战性的热点问题，探讨和研究新型的资源调度方案，对于提升系统的整体性能具有非常重要的理论研究价值和现实意义。首先，针对中继协作系统，重点研究了以最大化系统容量为目标的功率分配优化问题，同时给出了一种中继选择性协作策略，它既可以保证分集增益又能够提高带宽效率。另外，初步研究了中继节点的安放位置对系统性能的影响，并得到了中继节点位置和功率分配的联合优化策略。其次，研究了OFDMA系统的资源调度算法。主要研究了三种经典的子载波调度算法：轮询调度、最大载干比调度和比例公平调度，并通过仿真分析得到，比例公平调度在一定程度上达到了整体的系统性能最优。最后，着重研究了中继增强的OFDMA系统的资源调度问题。依照资源调度流程，重点对子载波和功率这两方面的调度和分配进行研究。第一步，研究并分析了几种中继增强系统的子载波调度算法，并与传统OFDMA系统的调度算法进行了仿真比较，一方面突出了中继增强系统的优越性，另一方面通过对系统吞吐量和用户公平性进行仿真评估得到，部分比例公平调度在提升系统整体性能上相对最优。第二步，在子载波调度完毕的前提下，对功率的分配策略进行了简单的研究。