码率控制算法大多是开放的，不同的应用场合对应不同的码率控制算法，视频编码标准只规定了视频压缩码流的语法结构。码率控制算法的性能直接影响视频编码的质量，因此研究性能优异的码率控制算法对视频压缩编码有重要的意义。作为视频压缩编码重要的组成部分之一，码率控制不可或缺，码率控制的作用是在编码后视频质量和实际码率之间达到一定的平衡，既要有较好的视频质量也要保证码流的稳定性，以适合于信道的传输。码率控制是在率失真的基础上发展起来的，由于新的压缩标准采用了率失真技术进行最优编码模式选择，码率控制的难度大大增加。合理有效的码率控制能够在编码质量、缓冲区控制、码率控制、跳帧率等方面取得较合理的平衡。本文首先介绍了新一代视频压缩标准H.264/AVC的一些关键技术，如帧内帧间预测、熵编码、离散余弦整数变换等；然后介绍了H.264/AVC中的码率控制算法，主要包括码率控制算法与率失真之间的关系、经典码率控制提案JVT-G012等。本文主要研究内容如下:(1)实际的视频序列一般都不是单一场景的序列，而是由不同的场景组成。当视频序列发生场景切换时，帧间相关性大大减小，传统的码率控制策略已经不能很好的应对场景切换的发生，因此，针对这一问题，本文提出场景切换处理方法。首先用平均灰度值检测场景切换，然后提出了两种GOP(Group of Pictures)重组方案、码率更新方法和量化参数的计算。实验结果表明，所提算法可以有效解决因场景切换带来的码率控制偏差较大和视频质量下降等问题，新算法能更精确控制码率，整体提高视频编码质量。(2) H.264/AVC码率控制提案采用前一个已编码GOP中所有帧量化参数的平均值来作为编码当前GOP的I帧量化参数，这在一定程度上缺少精确性。因此，针对因经典码率控制提案中I帧量化参数的计算方法不够准确而导致缓冲区控制不精确、编码质量不佳等问题，提出一种改进的更适合实际应用的自适应I帧量化参数计算方法。在本文方法中，当前I帧QP值依赖于上一个GOP编码I帧后的缓冲区占用率、跳帧率、当前缓冲区占用率。实验结果表明，新方法能够得到更精确的控制码率，实际码率更接近目标码率，同时可获得更高的峰值信噪比(PSNR)，跳帧数的控制效果也很好，PSNR曲线波动更小。