近些年来,视频编解码技术取得了长足的发展和进步,目前以H.2641AVC标准为代表的视频编解码标准已经被广泛的应用在社会生活的各个方面。对H.264/AVC分析可知：运动估计是视频编解码的核心技术,它占据了一大半的编码时间,并且对于视频编码质量有着很大的影响。提高运动估计的效率,对于加快编码速度、提高编码质量有着极其重要的意义。因此,对运动估计技术进行改进成为目前视频编解码领域的研究热点之一。本文分别在运动搜索和多参考帧运动估计两个方面提出了新的算法,以期达到好的编码效果。传统的基于遗传搜索的运动估计有着良好的全局寻优能力,但过高的算法复杂度需要巨大的计算开销和存储容量,增加了编码时间；传统的基于遗传搜索的运动估计,普遍采用较低的迭代次数,降低了遗传搜索的精度。为解决传统的搜索算法消耗的时间长与搜索精度低的缺陷,本文提出了一种基于遗传搜索和模板匹配的混合算法,算法结合了多种运动矢量的预测方法及运动矢量的统计特性设计了终止策略。同时使用模板匹配类算法对遗传搜索进行优化。实验表明,本算法在确保编码质量的同时,大幅削减了搜索点数和编码时间。运动估计的计算量随着参考帧数的增加呈线性增长,为了减少多帧参考运动估计的计算量,本文提出了一种新的快速算法。基于粒子滤波的目标追踪算法与多参考帧运动估计有一定的相似性,受此启发,本算法将粒子滤波引入到多参考帧运动估计中,具体包含如下三个步骤：1.检测关键帧；2.在关键帧中进行全搜索；3.在其余帧中对各粒子进行搜索。实验结果也表明本算法在编码效率与全搜索接近的同时,大幅降低了计算复杂度。