通信与多媒体技术的飞速发展，使得人们对视频质量的要求愈来愈高，随着高清视频的普及，超高清视频将是近几年的发展潮流。而传统的视频编码标准如H.264，在超高清视频等领域已不能满足要求。因此，视频编码专家组和移动图像专家组成的联合小组正在制定新的下一代视频编解码标准——高效视频编码标准（HighEfficiency Video Coding，HEVC）。HEVC将在H.264的基础上，提高一倍的编码效率。目前，HEVC标准仍在制定过程中，但在2012年2月份，联合专家组已完成了第一次里程碑，整个编码标准的框架已基本确定。在此基础上，本文针对HEVC中的量化矩阵和码率控制部分的关键技术进行了研究。量化矩阵用于编码过程中的量化过程，对提高视频的客观质量有较明显作用，另一方面，在实际的视频应用中，有时候要求编码后的视频码流具有恒定的码率，这样就需要通过相关码率控制算法进行控制。本文提出了一种全新的量化矩阵压缩的方法，利用多种预测方式，包括量化矩阵的双向预测、利用属于帧内预测的量化矩阵来预测帧间预测的量化矩阵、插值构建预测矩阵等方式。实验表明，采用此算法后，可以降低量化矩阵部分的比特数在最终码流中的比例。在码率控制方面，本文研究了HEVC中最新的基于统一码率量化的码率控制算法，并将量化矩阵运用到该算法中以优化该算法。实验显示，对比未使用量化矩阵时，使用量化矩阵后视频质量得到了一定提高，视频码率也保持在稳定的状态。