随着日常生活对多媒体通信需求的增长,视频通信也成为课题研究的热点。在2002年我国成立了数字音视频编解码技术标准工作组,简称AVS工作组。工作组制定了数字音视频编解码技术国家标准（AVS标准）。AVS标准的第二部分为视频编解码标准,该部分适用于直播卫星视频业务、数字地面电视广播、交互存储媒体、有线电视、宽带视频业务、多媒体邮件以及远程视频监控等。本文就是针对AVS视频编码器在PC机上的实时编码而展开的研究。在本课题研究中用到了Intel公司多媒体增强指令集,主要有MMX指令集和SSE2指令集。AVS视频编码器中有部分编码模块的算法较复杂、计算量较大,不利于编码器实时编码的实现。所以本文从算法优化和多媒体指令优化两个方面进行研究,来降低编码复杂度、提高编码器的编码速度。首先,利用SIMD技术对计算量大的帧内预测编码模块进行了多媒体指令的优化,在不改变信噪比和码率的情况下,很好的提高了编码速度。其次,对非对称十字形多层次六边形格点运动搜索（UNHexagonS）模型进行了深入研究,分析了该模型存在的不足点,并提出了相应的改进方法。实验结果表明,在不影响图像质量的情况下,编码器编码速度得到了明显的提高。再次,根据视频序列实时运动剧烈程度和AVS编码器使用多参考帧的帧间预测技术的特点,提出了综合利用运动矢量MV和参考帧位置,混合使用搜索效果较好的三种搜索模型有效的减少搜索点数,降低搜索时间,提高编码器的编码速度。本课题研究主要完成了以下工作：①应用SIMD技术完成了AVS视频编码器帧内预测模块中预测模式以及zigzag扫描的多媒体指令优化,缩短了帧内预测编码时间,编码器的编码速度大大提高。其中,QCIF格式的测试序列,帧率提高18fps左右；CIF格式的测试序列,帧率提高7fps左右；D1格式的测试序列,帧率提高2fps左右。②在快速搜索模型UNHexagonS中,sad的阈值实现了基于宏块大小的自适应,在自适应阈值的基础上加入了搜索提前终止判断,并且在sad计算函数中加入了终止判断。在帧间模式选择中加入了P₈×8模式代价值的提前终止判断。使用改进后的运动估计模块,CIF格式的测试序列帧率平均提高7.94fps；③通过对mv和参考帧位置的综合考虑,利用现有的快速搜索模型对不同运动剧烈程度的编码块使用不同的快速搜索模型,在不影响视频编码质量的前提下,使搜索点数大大降低,对不同的测试序列搜索速度有不同程度的提高。