波前传感技术作为一种光束像差测量手段已被广泛应用于天文观测、激光光束净化和光学检测等多个领域。在上述应用领域蓬勃发展的背景下,提高波前传感器探测性能的相关研究受到广泛关注,各种新颖的波前传感技术不断涌现。目前,波前传感技术的探测原理主要在线性光学范畴内,性能优化主要涉及测量速度、测量精度、动态范围等。而非线性光学变频技术作为一种拓展激光波长的有效技术手段,将其与波前传感技术相结合,可以使可见光、近红外波段高性能波前传感器的探测范围向长波方向拓展,对于提高红外波段激光的波前探测性能具有重要的应用价值。然而倍频过程中的相位映射关系拟合问题,以及倍频光波前的精准探测问题严重地限制了基于相位映射关系的变频波前传感技术的发展。得益于近年来计算机技术的进步,本文首次将神经网络模型用于变频波前探测领域,以光学变频哈特曼波前传感技术为研究对象,从理论上构建含波前畸变倍频理论模型,分析倍频过程的相位传递机制。在此基础上,借助神经网络模型的强大拟合性能,围绕变频探测中的复杂相位映射关系求解问题和倍频光波前精准探测问题进行了深入研究,并取得了一系列研究成果。首先,针对倍频过程中复杂相位映射关系的求解问题,推导了含波前畸变倍频理论模型,并对理论模型的准确性进行了仿真与实验验证。基于建立的理论模型,以Zernike模式系数作为参量分析了倍频过程中基频光与倍频光的相位映射关系及其影响因素。首次得到了忽略走离效应的情况下,基频光与倍频光在Zernike模式系数上的线性映射关系,并基于该线性关系简化了倍频光波前的数值计算过程。其次,针对上述数值模型逆向求解速度慢,难以满足实际波前探测应用的问题,提出了一种基于前馈神经网络模型的倍频波前预测算法。将基频光与倍频光的波前Zernike系数分别作为网络模型的目标输出和输入值,并针对网络参数进行了优化。测试结果表明在不同程度走离效应的影响下,该算法均可以准确拟合基频光、倍频光之间的相位映射关系,其预测时间不足0.1秒,相比数值计算方法可提高近3个数量级,该算法为实现变频波前的实时探测提供了可能性。此外,为了解决倍频光波前精准探测的问题,提出了一种针对稀疏子孔径哈特曼传感器的波前复原算法。该算法利用神经网络模型来拟合稀疏子孔径内高阶像差对质心位移造成的非线性影响。基于仿真模型,给出了该算法的基本结构及优化过程,并在不同子孔径采样数目下比较了该算法与传统模式法的波前复原精度。实验结果表明,神经网络复原算法在6×6子孔径数目下实现了对前65阶Zernike模式像差的精确复原,波前残差RMS相比于传统模式法降低了近80%。该方法在一定程度上突破了哈特曼传感器子孔径采样数目对空间分辨率的限制,实现了稀疏子孔径下倍频光高阶像差的精确复原。本论文围绕光学变频哈特曼波前传感技术进行了理论分析、数值仿真以及相关的实验研究,基于神经网络模型解决了光学变频波前探测中的两个关键问题:基频光、倍频光相位映射关系的拟合问题,以及倍频光波前的精准探测问题。从而为光学变频哈特曼波前传感技术研究提供了一种新的技术路线。