近年来,数字电子技术的发展使得数字视频成为多媒体通信系统最重要的信息载体,数字视频与图像、音频等信息形式相比,数据量要大得多,但是视频存储量、带宽等条件有限,人们对数字视频的存储和传输要求也日益提高。这便需要将码率控制技术引入到视频压缩编码过程中,实现压缩编码的视频输出码率切合实际的网络带宽条件,避免了视频信息的丢失,提高压缩编码效率,还能够防止网络拥塞。考虑到码率控制算法的重要性,本文着重对其进行深入研究。虽然H.265压缩标准是继H.264标准之后最新制定的视频压缩标准,但考虑到H.265标准对计算机硬件能力要求较高,生态环境也才逐步开始,移动视频解码时高电量问题未解决,本文对目前主流的视频压缩编码标准的H.264标准的码率控制算法进行研究。对码率控制算法的研究主要解决建立更精确的率失真模型和控制缓冲区这两个问题,本文系统性分析之前学者提出的经典的码率控制算法和率失真优化技术并进行总结和借鉴,在经典的率失真模型的基础上进行改进和修正,并利用马尔科夫决策过程对码率控制算法进行研究,提出了一种改进的基于马尔科夫决策过程的帧层码率控制算法。本文采用JM 18.0作为测试平台。利用不同复杂度的CIF格式的视频序列进行测试,经过仿真测试表明,本文改进的基于马尔科夫决策过程的码率控制算法能够获得更高的视频编码质量并能提高缓冲区的利用率;同时,本文改进的率失真模型也能够更加精确地描述比特率与视频质量失真度之间的关系。