二十一世纪，随着多媒体技术的发展，视频通信以及网络传输技术得到了广泛地应用。视频作为一种内容丰富且直观的信息载体，正对人们的交流和社会发展起着越来越重要的作用。首先，当今社会，视频通信正在逐步取代原有的单一语音和文字通信，手机3G视频通信、远程视频会议、远程监控系统等前沿技术已逐步成为信息时代的沟通利器和保证社会稳定的强有力武器。其次，在个人娱乐领域，爆炸式的视频信息在人们的日常生活中占据着主导地位，人们对社会信息获取的方式也从单一的文字向视频信息转变，如：优酷、Youtube等网络视频平台。随着后PC时代的到来以及人类对移动终端的追捧，移动终端的视频需求与日俱增。伴随着信息技术的不断发展，消费者对视频体验也逐步提高，因此视频通信也将面临前所未有的机遇和挑战。视频编解码技术是保证有效传输和存储视频信息的关键技术之一，也是现代前沿信息技术不可或缺的重要组成部分。H.264/AVC（以下简称H.264）是ITU和ISO/IEC联合制定的视频编码标准，也是MPEG-4的第10部分。2013年3月，ITU和ISO/IEC公布了最新的视频编解码标准，即HEVC（HighEfficiency Video Coding）。HEVC是针对高清视频格式的编码标准，基本框架是基于H.264的标准框架，并对视频编解码的各个环节做了进一步的改进以符合高清视频的要求。作为主流的视频编码标准，H.264/AVC引入了许多先进的编码技术，相比以往的编码算法,在编码效率、网络适应力以及压缩质量等性能指标方面都有显著地提高。然而，H.264/AVC引入的率失真优化导致了“蛋鸡悖论”的产生，也因此使得码率控制较之前的编码标准更为复杂。本文针对H.264/AVC编解码标准对码率控制进行了一系列的分析、实验，提出了一种新的基于人眼视觉系统的码率控制算法。本文首先介绍了H.264/AVC编解码器的基本工作原理，如帧内、帧间预测、DCT变换以及量化编码，并对H.264/AVC标准的基本概念进行了概述。其次介绍了一种H.264/AVC压缩域视频分割算法，该算法利用H.264码流中提取得到的宏块相关运动信息对宏块所属不同区域进行聚类划分。在使用宏块相关运动信息之前，我们对原始运动矢量场、宏块分配的权值场分别进行了可靠性分析以及二维的空间滤波处理，从而得到可信度较高的运动矢量场和宏块的权值场，最终将Meanshift聚类算法应用于可靠的运动矢量场，进而实现运动目标的提取。在恒定信道环境和现有的码率控制方案条件下，为了改善视频的编码质量，本文对JVT-G012提供的码率控制方案（GOP层、帧层、基本单元层的比特分配以及MAD预测模型等）进行大量的实验和分析，并提出了一种新的基于人眼视觉系统的码率控制方案，该方案仍然沿用了JVT-G012码率控制方案的基本框架，但对MAD预测模型、帧层码率分配以及基本单元层的码率分配做了了改进。为了获取较为准确MAD预测值，本文充分利用帧间和帧内MAD的时空相关性提出了一种自适应的时空MAD预测模型；原有的帧层比特分配是通过预设的目标缓冲级实现的，本文对缓冲器占用量的控制参数进行了重新修正，由原来单一的比例环节拓展为比例、积分、微分环节；最后，结合本文提出的区域分割算法，对基本单元层比特分配按照区域视觉特性重新修正。针对传输信道环境受限的应用环境，本文提出的码率控制方案在MAD预测、比特分配的性能方面都有较大的提升，实验结果表明，该码率控制方案有效地提高了重建视频的主观质量。