近年来,对宇宙空间的探索过程不断帮助人类认识宇宙的本质,推动科技的发展。现有的深空通信传输层功能由LTP协议承载,而随着人类的空间探索向深空发展,LTP协议已无法良好地解决深空通信环境面临的长延时,高丢包率,中断频繁等诸多挑战。近些年学者们通过对编码技术的不断创新,提出了很多适用于深空数据传输的编码方案,其中LT码由于其无固定码率,低反馈的特性,得到了学者们的青睐,而BATS码在LT码的基础上,结合了网络编码的特性,在面对对深空通信的网络特性时,展现出了比LT码更高的传输效率。LT码和BATS码虽然在编译码算法上趋于成熟,但在实际协议中的应用方案相对匮乏,因此如何将这些编码技术结合到深空通信的传输协议中是学术界也是本文的重点研究内容。本文通过对LTP协议以及LT码和BATS码的研究分析,提出了两种基于编码算法的LTP协议优化方案,命名为LTP-LT协议及LTP-BATS协议。其中LTP-LT协议通过将LT码的编译码算法结合到LTP协议的块数据的传输过程中,最大限度的减少了LTP协议的反馈重传次数,极大的减少了深空通信中数据的可靠传输时延。而LTP-BATS协议则以LTP-LT协议为基础,将BATS码融入到协议中,克服了LT码在多跳网络传输中所面临的累积丢包问题,相比LTP-LT协议而言,极大的提升了数据的传输效率。本文基于NASA开源的软件协议栈ION实现了上述两种协议,并以此为基础搭建了地月通信仿真场景,通过仿真实验证明了两种协议的性能优势。最后,本文还基于BATS码以及空间通信常用的滑动窗口传输方案,提出了一种基于均衡保护窗口的BATS码文件传输方案。方案中利用小度值Batch对滑动窗口的非重叠区域进行编码传输,并且采用不等滑动步长,实现了对滑动窗口的重叠部分和非重叠部分的均衡保护,使传输既具有较高可靠性,又具有较高的传输效率。文中通过仿真实验证明了方案的性能优势。