随着无线网络的广泛部署和智能移动终端的普及，移动流量日益激增，其中无线视频流量已经占据了主要部分。海量的视频内容以及新兴的服务业务为无线视频传输设计带来了巨大的挑战，包括视频传输效率以及传输质量的信道适应性。在传输效率方面，需要考虑在有限无线资源情况下，如何最小化大容量且高相关性视频的传输失真。在信道适应性方面，需要考虑在时变衰落的无线信道以及异构的多播信道场景下，如何使得视频恢复质量随着信道条件改变而平稳变化。除了继续对传统数字视频传输进行优化以外，发展新的面向视频的传输方式也成为多媒体通信的一个重要方向。其中，伪模拟传输和混合数模传输引起了广泛关注，在传输效率和信道适应性上展现出了各自的优劣。
　　传统数字视频传输方案是基于Shannon分离定理设计的，这确保了其在点对点稳定信道下的失真最优性，但也导致其在时变衰落信道下面临“悬崖效应”并且无法同时满足多播用户的性能需求。以SoftCast为代表的伪模拟视频传输方案保留了视频像素与传输符号间的线性关系，在多播场景下展现出了卓越的信道适应能力，但其带宽利用效率较低且失真性能往往劣于数字传输。通过集成数字设计和伪模拟设计，混合数模传输在传输效率和信道适应性间取得了折中。鉴于愈发紧缺且宝贵的无线资源已经成为制约视频业务传输质量的瓶颈，本文研究数字、伪模拟和混合数模视频传输方案中的资源优化机制，同时考虑非正交多址接入等下一代通信技术，来提升视频传输效率和信道适应性。具体的研究内容包括:
　　1)无线数字传输在单播场景下依然是视频分发的主流解决方案，但是面临着激增的大容量视频流量的带宽压力。非正交多址技术被认为是下一代移动通信系统中提升容量的关键技术之一。在非正交多址接入场景下，通过设计功率优化分配机制来进一步提升视频单播传输效率。首先结合叠加编码特性和数字分层编码特性，提出了面向非正交多址接入系统的多用户无线数字单播方案。随后，考虑到视频恢复质量相比于吞吐量等网络性能能更好地刻画用户的满意度，研究建立了视频码流的质量-码率模型以及非正交多址接入物理层传输模型，在此基础上，将质量驱动的功率分配问题建模为视频接收质量最大化问题。针对这一非凸问题，利用隐藏的单调特性和解码顺序特性，分别设计了δ-最优算法和多项式时间复杂度的贪心算法。仿真结果验证了非正交多址接入技术对于提升视频传输质量的有效性以及质量驱动的功率分配算法的必要性。
　　2)以SoftCast为代表的伪模拟视频传输方案为多播的信道异构问题提供了解决方案，但是却面临带宽紧缺时传输效率较低的问题。为此，结合Soft-Cast和非正交多址接入技术，提出了一种新的面向多播用户的稳健视频分发方案Supcast。Supcast将视频像素经过线性变换后的系数编码成基本层信号和增强层信号叠加传输，来提升带宽利用效率。为了应对叠加编码引起的信号干扰，通过设计系数叠加调度和功率分配机制来尽可能减小视频解码失真。基于系数的统计特性以及译码干扰关系表达，提出了两步功率分配策略，推导出系数功率放缩因子的解析表达。通过将系数调度问题等效建模为双边一对一匹配问题，设计了多项式时间复杂度的叠加匹配算法。最后的仿真结果验证了Supcast在带宽紧缺时的性能增益，而且也验证了调度和功率分配算法的必要性。
　　3)混合数模视频传输在传输效率和信道适应性间取得了折中，但是往往需要复杂的编码设计而且缺乏实际衰落信道下的传输质量研究。为此，提出了一种基于标量量化的混合数模视频传输方案，对于像素变换后的低频系数，采用数字方式传输量化结果，而量化误差连同剩余的系数采用模拟传输。考虑发送端仅知道统计信道状态信息的场景，分析了数字分量和模拟分量在中断以及非中断下的失真表达。在此基础上，以最小化重建失真为目标，提出了码率分配和资源分配优化算法，来回答如何在数字分量和模拟分量间分割视频信源和分配无线资源这两个关键问题。仿真结果验证了所提方案在衰落信道场景下的性能。