JVT/H.264是ITU-T VCEG组织和ISO/IEC MPEG组织共同研究的新型视频压缩标准，是目前图象通信研究领域的热点问题之一。作为视频编解码领域的最新标准，H.264具有数据压缩率高、抗差错恢复能力强、网络结合性能好等优点。因而应用前景极其广阔。由于它的多模式运动估计、4′4整数变换、UVLC符号编码、CAVLC，CABAC，分层编码语法等这些新技术的采用，使得在同等视频质量下，它的压缩率较以前的视频编码技术有很大的提高。尤其是多模式运动估计的应用，使H.264算法在保持高压缩率的同时，图象质量也得到了很好的保证。但是在编码效率提升的同时，编码计算复杂度的增加使H.264很难在实际中得到广泛的应用。据实验数据表明，H.264的编码复杂度比以往MPEG-4标准提高了近3倍，其中基于RDO（率失真优化）的多模式运动估计部分则占了大部分比重。 在H.264中，对于I帧要进行十三种帧内模式的预测。而对于B帧和P帧，除了要进行上述帧内模式的预测之外，还要进行七种帧间模式的预测。在这些模式预测进行完之后，只有一种模式被定为当前宏块的最佳模式并进行编码。由此我们可以看出，H.264的模式选择是非常耗时的。为了在保证编码质量的同时大幅度提高编码速度，本文提出了一种自适应快速模式选择算法。该算法充分利用了视频序列本身的信息，帧间帧内编码的统计规律以及量化参数（QP）对模式选择的影响，对预测模式进行预筛选，减少了实际的搜索模式。试验证明该算法在高低码率下都可以在保证编码质量的同时大幅度提高编码速度，因此具有较强的实用价值。