随着移动终端的普及以及无线通信技术的高速发展,“高清”与“无线”已成为当前研究的热门技术。越来越多高清多媒体设备之间通过无线信道进行连接,这些设备的布局因此变得更加简单方便。但是随着无线信道中高清视频传输数据量的急剧增加,视频压缩必不可少,H.264/AVC是众多高效率的高清视频压缩标准之一。H.264/AVC可在各种码率下提供较高质量的视频图像,同时具有自适应的延时特性,支持各种视频应用,具有较强的容错能力,压缩后的视频码流适合在无线信道中传输。但针对硬件资源和计算能力有限的移动终端,以及无线信道有限的传输速率和带宽,进一步优化H.264/AVC算法以解决以上问题具有重要的应用价值。本论文首先介绍了几种常用的无线高清视频实时传输系统,阐述了系统中采用的无线传输技术和高清视频压缩处理技术。为了使高清视频能够高效压缩,实现在无线信道中的实时传输,深入研究了H.264/AVC视频编码标准的帧内预测、帧间模式选择这两个关键技术,分析了这两个关键技术在H.264/AVC视频编码标准中的重要性以及其具有巨大运算复杂度的深层原因。然后从这两个关键技术入手,进行H.264/AVC框架简化和算法优化,从而提高编码效率并降低硬件实现难度,提高实时性。对于帧内预测技术,相对于帧内全搜索算法,论文提出基于图像平坦度的无线高清视频帧内预测算法;针对帧间模式选择技术,论文提出基于全局和局部残差复杂度的快速帧间模式选择算法。通过H.264/AVC标准测试模型JM18.4对具有不同运动矢量的8个视频序列进行压缩编码测试,结果表明本文提出的算法在编码后图像峰值信噪比和码率基本不变的情况下,帧内编码时间比原始模型减少45%,帧间编码时间比原始模型减少55%,有效提高了编码器的编码效率,使得编码后的视频流在移动终端和大频幕电视之间传输具有更好的实时性。