在IP卫星网络通信中多媒体业务日益增多的背景下,要求卫星网络传输具有高可靠性,对移动终端具有全球覆盖性,具有高质量的接入服务并提供有效的QoS保障。在地面Internet中,QoS问题一直没有得到很好地解决,卫星网络不仅要面对地面Internet原有的QoS问题,还要面对在卫星网络环境下的一系列问题,如卫星高速运动及拓扑结构动态变化中的路由问题、高信道误码率和高传输距离中的传输协议、星际链路和星地链路频繁切换中的的移动性管理技术等都对保障卫星IP卫星网络服务质量具有直接影响。QoS包括带宽、时延及时延抖动和吞吐量等量化的QoS指标。针对各项QoS指标需求,本文从LEO/MEO双层卫星网络的设计目标出发,设计并优化双层卫星网络的结构,并在此基础上展开路由算法和传输算法的研究,使之匹配和适应不同的业务需求,从而实现QoS保障的目标。第一,设计了稳定、健壮的LEO/MEO双层网络体系架构。双层网络体系结构以Kimura的DLSC模型为代表,但DLSC模型过度地依赖冗余连接来增加网络稳定性,使卫星网络系统复杂性过高。在DLSC模型局限性的基础上,本文设计的LEO/MEO双层网络体系结构采用骨干网／接入网模型和“适度连接”星间链路保证网络的稳定性,同时利用组管理规则和时隙划分策略降低卫星网络的复杂度。第二,设计了支持QoS保障的LEO/MEO双层网络结构。基于稳定和健壮的LEO/MEO双层网络体系结构下,结合覆盖率和、带宽、时延、时延抖动、丢失率、吞吐量等QoS指标,从星座设计和星间链路设计等方面设计双层网络。星座设计综合考虑星座类型、轨道高度、轨道倾角、轨道平面数量、每一轨道平面拥有的卫星数等参数,星间链路设计综合考虑LEO层内链路设计、MEO层内链路设计及LEO/MEO层间链路设计,从QoS保障角度,网络设计满足QoS路由和QoS传输的需要。第三,设计了综合权衡多QoS保障的路由策略。首先基于LEO.MEO在时延和带宽上、在时间和位置上对业务要求的不对称性,设计了QoS耗费综合加权模型,模型综合权衡时延和带宽QoS耗费信息；提出一种QoS耗费收集与计算分离的算法,简化路由的计算,减小路由计算的收敛时间；分析了时隙切换、卫星失效和链路拥塞三种情况下的路由重新计算策略,并针对不同情况下的路由重新计算策略,提出了抖动优化算法和骨干网优先传输算法等优化方案。综合权衡多QoS保障的路由策略综合考虑QoS保障需求,权衡时延和时延抖动、带宽等QoS指标,以满足不对称流量情况下的QoS路由的需要。第四,提出了基于多QOS指标保障的TCPQ传输改进算法。地面的TCP协议卫星不能直接应用于高传输时延、高误码率的卫星网络,而拥塞控制是TCP协议中最核心的机制,直接影响到QoS传输的整体性能。TCPQ设计了加速启动算法、非线性拥塞避免算法和自适应门限差错判别算法,从吞吐量、带宽利用率、误码率等指标上保障QoS的传输的要求。