在视频压缩技术领域，以最新的视频压缩国际标准H.264/AVC和我国具有自主知识产权的AVS(AudioVideoCodingStandard)编码效率更高，但是随之而来的就是硬件实现复杂度的大大增加，所以有必要对其进行优化设计。本文主要研究了视频编码器的优化设计技术。 视频编码器的优化设计主要是从系统层和电路层两个方面来进行。系统层优化设计主要是在满足设计需求的前提下，按照易于硬件实现的原则，提出系统架构。这部分优化工作主要包括算法级的优化，流水级深度的安排等。电路层的优化从面积角度来说，尽量采用可重用的设计方法，做到资源共享；从性能的角度来说，尽量简化关键路径的逻辑电路，并对关键路径采用并行处理。 系统层的优化设计，对于AVS编码器中帧内预测设计，由于传统算法并不利于硬件结构实现实时编码，因此本文提出了一种优化算法。这种优化算法以提高3％-4％码率(全I帧)的代价换来系统运行速度很大的提高。对于环内滤波模块，基于减少RAM操作时间，提高性能的目的，重新安排了滤波顺序，设计了适合这种滤波顺序的系统构架。 电路层的优化设计，采用了可重用设计方法和提高并行度的设计方法。对于可重用设计方法，主要是分析了帧内预测各种模式之间预测过程的相似性，提出了可配置预测部件设计方案。提高并行度的设计方法比较明显的体现在环内滤波的设计当中：由于环内滤波的高适应性必然带来很多的条件判断分支，所以采用并行的设计思路，对于条件分支采取提前判断的策略，减少了逻辑路径延时。