随着互联网、云计算等技术的高速发展,移动设备、远程桌面、虚拟桌面、无线显示等场景中的屏幕内容视频的应用得到广泛普及。为了满足带宽的需求,屏幕内容视频(Screen Content Video,SCV)的高效编码压缩变得非常重要。目前,国际标准组织已在高效视频编码(High Efficiency Video Coding,HEVC)编码标准基础上,针对屏幕内容视频的内容特性,制定了屏幕内容编码标准(Screen Content Coding,SCC)。针对屏幕内容视频中具有的帧内内容重复,编码块内颜色个数有限,边缘锐化等特点,屏幕内容编码中新增了帧内块复制、调色板模式、自适应颜色变换以及自适应运动向量分解等编码工具,进而提高了编码效率。然而,由于实时系统的编码资源有限,面向屏幕内容视频的编码器设计需要考虑编码复杂度和资源分配等关键优化问题。本文针对屏幕内容编码,从编码低复杂度优化和码率控制优化两个方面开展了相关研究,具体包括:(1)本文提出了基于集成学习的帧内编码单元深度快速决策算法,该算法将编码单元中的深度决策问题看作一个三层二分类问题。为了避免分类器预测引入过大的计算量,本文采用线性分类器作为基础分类器。同时,由于屏幕内容视频中编码单元的数据具有类别分布不均衡的特性,单一的弱分类器预测性能有限。故本文设计集成两个弱分类器得到三输出的分类器,以提高分类器预测的准确率,提升算法的性能。实验结果表明,本文提出的算法在相同视频质量下,相对未优化编码方案平均可节省30%的编码时间,只增加1.6%的码率。此外,本文还提出了基于最优停止理论的预测模式快速决策算法。该算法根据预测模式遍历的过程和模式为最佳模式的占比,将预测模式分为Intra、IBC-Merge、IBC、PLT四类,通过多类分类器预测每种模式成为最佳模式的概率,按照概率降序排序构建模式候选列表,使用最佳停止点提前终止候选列表的遍历,实现编码低复杂度优化。在视频质量相同的情况下,该算法可以节省11%的编码时间。(2)针对SCC中采用的码率控制模型,本文探索了SCV图像特征,量化参数等因素与码率之间的关系,提出了基于支持向量回归的初始量化参数预测算法。该算法以码率,灰度共生矩阵的能量、熵、对比度、相关性四个统计量,共五个特征作为输入,预测初始帧的量化参数,相较于SCC参考软件(SCM8.0)的码率控制算法,本文提出的算法在相同码率下,BDPSNR平均提升0.47dB。同时,本文也提出了基于二次编码的帧级码率分配优化算法。该算法通过预编码和分析当前GOP,以完成GOP内的各帧的码率分配权重预测。实验结果表明,针对桌面、网页等有场景切换类型的序列,该类方法效果提升明显。