H.264／AVC是由ITU-T的VCEG(视频编码专家组)和ISO的MPEG(运动图像专家组)共同制定的新的视频编码标准。H.264使用很多先进的视频编码方法，与现有的视频编码标准相比，它可以获得更高的压缩效率，同时，其结构上设计非常合理，使得H.264具有良好的网络适配性，因此，H.264在无线和IP信道上能够得到更广泛的应用。然而在实际应用中，特别是当H.264应用在流媒体中时，由于H.264压缩性能高，导致算法复杂度比较高，这样对应用产生很大的影响。为了使H.264能够更好地应用于流媒体通信中，就必须降低H.264视频算法复杂度。本文先对H.264视频编码特点进行了分析，然后深入研究了H.264视频编码标准宏块编码的率失真优化算法，并剖析了率失真优化算法的特点，提出了基于宏块类型空域相关性的帧间预测优化算法，并在H.264测试模型JM9.8上进行了仿真。在未显著降低性能的前提下，有效的提高了编码器的效率。互联网的迅速发展和普及为流媒体业务发展提供了强大的市场动力，流媒体业务正在变得日益流行。流媒体技术可以广泛应用于互联网多媒体新闻发布、远程教育、视频点播等互联网的信息服务领域。流媒体技术的应用将为网络信息交流带来革命性的变化，对人们的工作和生活都将产生深远的影响。本论文结合MPEG-2 TS和ISMA流媒体传输机制，针对MP4文件格式，提出了一种新的流化方案，此方案适合IP网络的特点，并且大大减轻了流媒体服务器的负载。实验表明，其传输效率比MPEG-2 TS有了很大的提高。