自适应光学系统通过波前探测和波前校正,实时补偿大气湍流产生的波前畸变,使地基大口径望远镜获得接近衍射极限的分辨力成像。利用钠信标进行波前探测,成为了天文观测领域克服自然信标天空覆盖率不足的主要手段。然而,钠信标却面临着激光上行传输过程受大气湍流影响进而造成钠信标光斑模糊扩展,以及钠原子吸收饱和效应造成钠信标回光亮度低等问题。本论文根据中国科学院光电技术研究所在丽江高美古1.8m望远镜配置的钠信标发射系统,针对系统产生的钠信标光斑较大和回光数较少的问题,为了提升终端自适应光学系统性能,完成的研究工作如下。首先建立了激光在大气中传输的模型,分析了激光发射望远镜口径,上行路径大气湍流产生的动态像差,发射系统静态像差和激光光束质量M²对激光到达钠层功率密度分布的影响。根据分析的结果得到了优化设计发射望远镜口径的普适方法。根据钠层激光功率密度与激光器耦合效率之间的关系,得到了该发射望远镜产生的钠信标光斑大小和回光数。为后端自适应光学系统的设计奠定了基础。其次,分析了利用预校正消除动态像差对信标光斑的扩展。当仅进行预校正后,钠信标光斑中心峰值功率密度过高带来的饱和效应将造成钠信标回光数减少。为了克服以上问题,提升AO系统性能,提出了提出了预校正结合光束整形的方法,利用相位预校正消除湍流产生的波前畸变,结合光束整形控制功率密度分布,在发射到钠层的激光束有尽量小的发散角下,使其强度分布由高斯分布变成了平顶分布,钠层中激光的功率密度为激光器与钠原子耦合效率极大值对应的最优功率密度。随后同时考虑了钠信标光斑大小和回光数对自适应光学系统性能的影响并进行了对应的分析。在大气湍流较强的站址（大气相干长度r₀为5cm）和目前激光器功率（功率为15W）的情况下,利用预校正结合光束整形后,根据理论计算结果,自适应光学系统的探测误差与时域误差之和与未进行预校正且未进行光束整形相比下降了36%。根据钠信标回光数,对自适应光学系统的采样频率进行了优化,不仅能充分发挥自适应光学系统的性能,还能为下一代脉冲型激光器重复频率的设计提供指导意义。随后,对预校正与光束整形的发射系统进行了分析,并以300mm发射望远镜为基础设计了对应的实验平台和实验方案。瑞利信标的选取决定着湍流探测的精度,为了满足每个子孔径信噪比的要求,方案拟定预校正波前探测时瑞利信标的选通高度为9km,选通厚度为±750m,上行路径湍流探测哈特曼采用6×6的子孔径排布。发射激光与瑞利信标回光的分光耦合方式采用偏振分光。在进行预校正时,主要针对钠信标远场特性进行光场校正,所采用的技术路线是双变形镜模式,一块用于湍流的位相控制,另一块用于强度（或振幅）控制,第二块变形镜需要位于第一块变形镜的夫琅和费衍射区。根据分析结果,45单元Fried排布的变形镜用于预校正;21单元Fried排布的变形镜用于光束整形,预计将使自适应光学系统的性能提升20%。最后分析并设计了丽江高美古1.8m望远镜300mm激光发射望远镜和传输光路系统,针对原有的200mm发射系统的不足,300mm发射系统进行了相应的优化并增加了对激光参数监测的相关功能。在该实验平台上,完成了钠信标的亮度和上行路径瑞利散射回光强度的实验验证,进一步地为共孔径钠信标上行光束预校正时瑞利信标的高度和厚度的选取方案提供了实验支撑。