H.264/AVC标准自从2003年发布以来已经得到了飞速的发展和广泛的应用,然而与以往的各种视频编码标准相比,它的高效性是以高度复杂的运算算法为代价的,这给H.264的实时嵌入式系统应用提出了挑战。本文对H.264算法进行了深入的研究,针对算法中耗时最多的模式选择部分进行了分析和优化,并提出了基于阈值判断和图像纹理的改进算法,算法对帧间和帧内预测模式分别进行了优化,并在VC环境下进行了仿真测试,结果表明优化后的模式选择算法的运算时间比优化前算法的运行时间减少了40%以上。同时对算法中频繁调用的函数针对特定的硬件平台进行汇编优化,最后在CCS开发环境下进行了仿真测试,实测结果显示在量化参数QP为30的情况下编码帧率达到了15帧/秒以上,说明了本文的优化是有效的。本文在实验室单兵作战系统项目的基础上,基于DM642平台进行了视频编码系统的研究,主要做了以下几个方面的工作:(1)对H.264标准及算法实现的细节进行研究。(2)设计了针对本视频编码应用的DSP硬件系统原理图,并绘制了PCB,完成硬件平台的搭建。(3)基于CCS和DSP/BIOS进行嵌入式软件开发及T264开源代码的移植,针对T264视频压缩算法,在耗时较多的预测算法部分进行了研究,并针对DSP的硬件平台进行了汇编优化。(4)对本文的优化结果进行了硬件平台的测试和分析,显示优化结果能够达到预期的目标。