自适应光学系统概念最早于1953年由Badcock提出,这一概念的基本思想是,通过实时补偿波前畸变,来减小系统光瞳处的波前像差,从而获得改善系统像质的目的。经过60余年的发展,自适应光学技术目前已经被广泛应用于各种现代光学系统中,比如地基高分辨成像望远镜,激光核聚变系统,视网膜成像系统,自由空间光通信系统等。波前传感器是自适应光学系统中重要组成部分之一。波前传感器作为系统中的反馈元件,用于实时检测系统波前像差。常见的波前传感器有夏克哈特曼波前传感器,剪切干涉仪,曲率波前传感器,棱锥波前传感器,全息波前传感器等。1996年Ragazzoni首次提出用金字塔角锥棱镜进行波前检测,其原理类似傅科刀口检验,并命名为棱锥波前传感器。相比于常用的波前传感器,棱锥传感器有高灵敏度、高光能利用率,采样率可调,更适用弱光源检测的特点,目前已在多种型号的大型天文望远镜中得到应用。本文通过理论分析和数值模拟对常见的三种棱锥波前传感器,即二棱锥、三棱锥和四棱锥,进行了深入研究。并详细介绍了串行四棱锥波前传感器的理论模型,仿真分析了串行四棱锥的相关特性。在以上工作的基础上,提出了用六边形拼接反射镜阵列替代折射棱锥作为波前传感元件的串行三棱锥波前传感方法。从理论推导和数值仿真分析了串行三棱锥输出信号与局部波前的近似线性关系,建立了相关系统模型,分析了自适应光学系统的可行性,搭建了基于串行三棱锥波前传感器的自适应光学系统,实验验证了串行三棱锥波前传感器对静态像差的闭环校正能力。本文的主要内容主要有以下几个方面:1.对常见的传统折射式棱锥波前传感方法进行了理论与数值分析。数值仿真了二棱锥,三棱锥,四棱锥波前传感器自适应光学系统,从棱镜光能量利用率,波前复原精度,和闭环校正波前残差三方面进行了对比分析。2.详细介绍了串行四棱锥波前传感器的原理,从傅里叶光学理论分析了串行四棱锥的探测原理,数值仿真对比了串行四棱锥和传统四棱锥在光能量利用率和波前探测两方面的差异,最后对静态大气湍流屏使用串行四棱锥进行闭环校正;3.提出了串行三棱锥波前传感方法的概念,用拼接反射镜阵列替代折射棱锥作为波前探测元件,通过理论推导和数值方法分析了串行三棱锥输出信号与局部波前斜率的线性关系,对比分析了串行三棱锥和串行四棱锥能量利用率;4.建立了串行三棱锥波前传感器自适应光学系统,详细介绍了六边形拼接阵列,提出了基于串行棱锥的直接斜率法进行波前重构,实现了对静态像差的闭环校正,证明了串行三棱锥波前传感器对静态像差的补偿能力。