H.264标准是ITU-T视频编码专家组和ISO/IEC活动图像专家组共同组成的联合视频组开发的新一代视频压缩标准。H.264高效的编码效率建立在其高复杂度的编码算法基础上,而采用具有较强并行处理能力的C64x+DSP芯片的达芬奇(Davinci)技术平台,则以较高的运算性能和丰富的外围接口成为目前实现视频应用系统的理想平台。本文对H.264编码算法的帧间及帧内预测算法进行改进,并进行了H.264编码器在DM6437平台上的移植和优化。(1)广泛研究了视频压缩技术的一般原理,尤其是一系列的国际视频编码标准,确定以H.264视频编码国际标准为研究对象。详细分析了H.264编码算法的基本原理和核心技术。(2)研究了H.264帧间预测算法原理及相关快速算法,在总结各类算法的优缺点后,给出一种基于菱形的改进型快速帧间预测算法。改进型快速帧间预测算法采用三种模式,对于小运动类型采用小菱形搜索,对于中等运动类型采用六边形搜索,对于大运动类型采用改进的大菱形搜索。(3)研究了H.264帧内预测算法原理及相关快速算法,给出了一种基于图像特征的快速帧内预测模式选择算法。该算法通过预测模式尺寸预先选择原则、帧内预测模式快速选择原则和提前中止原则来加快编码速度。(4)研究了达芬奇平台,并对该平台的全新特性进行了评估,详细介绍了H.264编码算法在达芬奇平台上的移植和优化过程。在充分利用DSP硬件优势的基础上,采用各种优化方法对原有算法进行优化,提高了程序的执行效率。本文最后总结并分析了课题研究的不足,以及H.264实时编码中的优势和劣势,为今后的研究打下基础。