在现代通信系统中,快速编码算法的研究已经成为提高图像质量的关键技术,是业界极为关注的热点课题。ITU-T 和MPEG 联合组成的JVT(Joint Video Expert Team)于2003 年3 月正式发布视频压缩编码国际标准H.264。H.264 编码标准作为MPEG-4 14496 的补充,其目的在于进一步挖掘现有编码技术的潜力,实现高画质、低比特率的编码效果。H.264 可以达到很高的编码效率,具有很好的市场应用前景。但是,由于H.264 编码标准引入了大量复杂度较高的时间和空间编码算法,因此深入研究H.264,设计快速编码算法就有重要的工程应用价值和技术理论意义。H.264 的重要目标之一是在同样的保真度条件下,提高编码效率。而提高压缩比,就会相应增加算法的复杂度,不便于实际的应用,笔者基于对H.264 中的各种核心编码算法的深入剖析和理论研究,及对有关算法的仿真实验,为快速算法设计提供了一些有益的结论。基于对核心模块的研究、设计并实现一套快速运动估计算法和改进率失真情况下的编码算法以提高系统的鲁棒性。通过深入分析快速运动估计算法中的若干关键技术问题,借鉴一些快速运动搜索算法的优点,从搜索模式和加速策略方面做改进,结合H.264 编码特点,提出了一种改进的快速菱形运动估计算法,在H.264 标准算法的基础上提高了编码系统的搜索效率。在深入研究率失真的基础上,改进了现有的基于率失真的优化编码算法并用仿真实验对各种算法作了对比研究,实现了在不明显降低图像质量的情况下有效降低运算复杂度的目的。最后,结合在研究中所得到的结论,提出了一种基于DSP 的硬件实现方案。