卫星通信网对社会经济的发展具有重要推动作用。同时包含高、低轨两种组网卫星的双层卫星网络,既能实现卫星信号的广域覆盖,又能解决地面控制中心对在轨卫星的全天候管理难题,一经提出就受到了广泛关注。然而,复杂的组网方式和严苛的部署环境对星间组网认证方案的设计提出了更高的要求。不同于地面无线网络,面向卫星网络的身份认证技术需要在复杂的网络环境中同时应对资源受限的星上环境、动态变化的网络结构、断续连通的通信链路等一系列安全挑战。此外,为适应节点数量海量化、拓扑结构复杂化等组网新趋势,认证方案还需要在保证组网安全的前提下尽量减少对地面控制中心等可信第三方的依赖,以保证星间组网认证的自主性与灵活性。因此,如何实现海量通信卫星在复杂环境下的自主、安全、高效组网已经成为了一个研究热点。对于双层卫星网络,现有的安全认证方案在设计时大多未考虑具体网络结构,并不完全适用于该网络高、低轨卫星之间的层间组网认证、邻近轨道相邻低轨卫星之间的星间组网认证等较为复杂的组网场景。针对上述问题,本文提出了两种分别适用于双层卫星网络不同组网场景的星间组网认证方案,重点解决该网络高、低轨卫星间的组网认证问题和邻近轨道相邻低轨卫星间的组网认证问题。具体来说,本文的主要工作包括以下三个方面。(1)提出了一种适用于双层卫星网络高、低轨卫星组网的星间组网认证方案。本文首先分析了上述组网卫星的链路切换特点、总结了星间组网认证过程的安全需求、提出了适用于卫星网络的攻击者模型,然后基于对称密码算法设计了一种无需可信第三方参与的星间组网认证方案,并结合卫星网络时钟高度同步、节点轨迹可精准预测等场景特点,设计了认证预计算机制,有效减少了卫星在认证阶段的计算开销。(2)提出了一种面向低轨卫星网络邻近轨道相邻卫星组网的星间组网认证方案。本文首先分析了低轨卫星在该场景下的组网方式,然后基于对称密码算法和认证参数预计算机制,设计了一种仅在首次身份认证需要可信第三方参与、具有较高组网灵活性的星间身份认证方案,性能分析表明本方案能满足低轨卫星在星间组网认证阶段所需的多种安全需求且具有较低的计算和通信开销。(3)使用基于BAN逻辑的形式化分析方法对上述两种星间组网认证方案的安全性进行了证明,并通过构建仿真测试系统的方式对本文所提星间组网认证方案的实际使用性能进行了测试。仿真结果表明,本文方案可以有效减少卫星在组网认证阶段的计算开销,能够在资源受限的卫星网络中得以应用。