经过几十年的发展，视频编码技术正朝着更高清晰度、更好的编码性能、3D编码以及可伸缩编码等方向发展。目前产业界中已获得广泛应用的H.264/AVC及正在制定中的下一代视频编码标准HEVC(High Efficiency Video Coding)，都使用了帧内和帧间编码帧作为主要的帧类型。由于帧内编码帧只利用了图像的空域相关性，压缩率相对较低，因此帧内编码的性能有待进一步提升。其次，帧内编码帧具有作为视频序列随机访问点、网络传输时刷新同步帧等特殊用途，因此，如何尽可能地发挥帧内编码抵抗网络传输差错的能力，给终端用户尽可能好的观看体验，具有重要的应用价值。另外，由于目前的帧内编码技术使用了可变尺寸大小的块划分，并使用多种方向的帧内预测，使得编码端在选择预测方向时复杂度较高；同时帧内编码块预测时需要参考其前一行和前一列中的相邻块，导致在硬件实现时，帧内编码块之间不能实现并行的编码或解码，为高清或超高清应用场景中实现实时编码增加了难度。因此，如何有效降低帧内编码的复杂度、提高其并行能力，也具有重要的意义。针对以上问题，本文首先以H.264/AVC为研究对象，从预测、变换和量化等方面来提高帧内编码效率；并提出基于运动跟踪的帧内刷新算法，以提高帧内刷新的抗误码能力；其次，从降低编码时间和提高并行编码能力方面，深入研究了降低HEVC帧内编码复杂度的方法。本文的主要工作及贡献归纳如下：1.深入分析了视频帧内编码的关键技术点，归纳总结了帧内编码技术的研究现状，并深入研究了帧内编码技术中存在的问题，指明了本文主要的研究方向。系统研究了帧内编码技术的总体框架模型及发展趋势，详细分析了帧内编码技术的性能指标，为后续研究奠定了基础。2.提出了一种新的帧内预测编码单元，并从预测和变换两方面提高帧内编码的性能。传统的以方块为单位的帧内预测算法中，编码块中右下部分像素与参考像素间的距离较远，相关性较弱，因此预测误差较大。针对这个问题，本文提出了一种基于多方向线划分的帧内预测单元，在宏块内部以水平或垂直方向的线为单位，分别参考相邻的行或列像素进行多个方向的帧内预测，减少了预测像素与参考像素间的距离，提高了预测精度；其次，提出使用一维离散余弦变换对线预测的残差进行变换，并根据预测的模式来选择变换形式，进一步提高帧内编码的效率。实验结果表明，在同样的重建图像峰值信噪比下，所提方法与H.264/AVC相比，平均码率节省约为4.2%。3.提出了一种量化器死区调整算法。在编码量化过程中，控制死区大小的量化偏移系数是固定不变的，不能很好的满足特征各异的视频序列。针对这个问题，提出一种视频内容自适应的量化器死区调整算法。该算法根据视频图像中相邻宏块边界具有连续性的特点，自动地调整偏移系数，控制死区大小，降低量化失真，该算法可以提高量化后重建图像的主客观质量。4.提出了一种高效的帧内刷新算法。帧内宏块刷新是一种提高视频流鲁棒性的有效技术，但过多的帧内宏块会使码率急剧增加而影响编码效率。为了解决这个问题，提出一种基于运动跟踪的帧内刷新算法。该算法在相邻两个帧内刷新帧之间对运动影响区域内的宏块进行统计分析，选取对传输差错敏感的宏块进行帧内刷新。随后又提出对刷新帧后的帧间预测帧进行参考特性限制，进一步防止传输差错在帧内和帧间的扩散。实验结果表明该算法可以显著提高丢包后重建视频图像的主客观质量，且运算复杂度低。5.提出了一种基于HEVC四叉树编码结构的帧内编码快速算法。HEVC的帧内编码对H.264/AVC的方块结构进行了扩展，提供了更多的编码单元划分方式及预测模式，提高编码性能的同时，也明显增加了编码器的计算复杂度。针对这个问题，提出了一种根据平滑区域检测结果，自适应地跳过不适合此纹理特性编码块划分的快速帧内预测算法。实验结果表明，在几乎不影响编码效率的前提下，编码速度能提高20%左右，具有显著的实用价值。6.提出了一种能有效支持HEVC并行帧内预测编码的方法。由于HEVC中需要使用重建的相邻块像素对当前块进行帧内预测，使得帧内编码块之间存在前后相继的串行相关性，导致其并行预测能力较弱，在4×4的小块帧内预测编码中，该缺点尤其明显。针对这个问题，提出一种可并行的4×4帧内预测方法，有限制的使用4×4子块的预测像素，降低其相邻块之间的依赖性，同时各子块仍然可以使用各自不同的预测方向，在支持4×4子块并行编解码的同时，能够尽量保证HEVC的帧内编码性能。