本文是以国家863重点课题：“深空信道模型、中继网络架构和通信传输协议”为背景来展开研究的。该课题将根据我国的月球探测、火星探测和太阳探测以及更进一步的金星、小行星、木星等深空探测需求，研究符合我国实际需求的深空通信系统及其关键技术，包括：深空通信中继网络架构总体设计与验证、深空通信信道模型、深空通信协议和深空通信非对称数据传输技术等。本文研究了该课题关于深空通信数据链路层协议的部分研究内容，具体包括：1）根据空间数据系统咨询委员会（Consultative Committee for Space Data Systems，CCSDS）对高级在轨系统（Advanced Orbiting Systems，简称AOS）的建议书，对AOS协议内容、AOS仿真系统组成、数据包格式等部分进行调研，判断其是否适用于深空环境。2）针对火星探测环境，对无线信道的建模、数据链路层链路的连接与释放过程及混合自动重传请求（Hybrid Automatic Repeat reQuest，HARQ）机制作了研究、对数据链路层的自动请求重传（Automatic Repeat reQuest，ARQ）机制作了深入分析。3）在AOS协议中引入累积确认－选择重传ARQ机制、部分窗口多拒绝ARQ机制和透明HARQ合并机制，并对完善后的AOS协议进行了端到端时延、时延抖动及吞吐量性能分析。4）利用OPNET仿真软件对采用不同ARQ机制的AOS协议进行建模，建立了四个场景。通过运行仿真，得到不同场景下发送窗口大小、链路端到端时延及链路吞吐量仿真结果。本论文的研究成果对于完善深空通信数据链路层中的AOS协议设计具有较高的参考价值。