原子力显微镜(AFM)是一种广泛应用在纳米科技领域的表征与操作仪器。其发明及技术的革新在推动化学、材料、生物等纳米相关学科发展方面起了非常重要的作用。然而，AFM成像模式带来的缺陷，如成像速度低，对样品损伤大，操作不灵活等，却阻碍了其进一步的应用与发展。因此，近年来，研究人员在提升和扩展AFM的功能方面做出了大量的努力和尝试。而在涉及物理、机械、自动控制等多个学科的研究中，AFM的控制系统又因存在诸多复杂问题而给控制算法的设计带来新的挑战。简言之，这些问题主要包括：压电扫描器的迟滞非线性影响定位精度；压电扫描器较低的振动模态以及逐行扫描的成像模式限制了扫描成像的速度；系统模型参数未知导致控制器参数调节繁琐等。针对这些问题，本文对AFM的控制算法展开研究，旨在通过设计先进控制器进一步提升AFM的成像性能。具体而言，本文的主要工作包括以下四个方面：　　 首先，提出了两种基于图像的迟滞建模与控制算法。迟滞非线性存在于包括压电扫描器在内的多种机电系统中，因其输入输出之间存在极其复杂的多重映射关系，所以对迟滞的建模与控制一直是自动控制领域研究的热点。在本项研究中，借助AFM图像，并利用已知准确数据的标准样品，完成了对Preisach与变比两种迟滞模型的参数辨识。在此基础上，设计了一种基于逆的迟滞前馈补偿算法，将补偿方法用于实验室自行搭建的AFM开放式平台上并对多种样品进行测试，结果表明该算法对迟滞引起的图像畸变有明显的抑制作用。此外，和传统方法相比，该方法避免了纳米级位移传感器的使用，且针对AFM的特点，降低了算法的复杂度，更利于在AFM实际系统中的应用。　　 第二，设计了一种基于学习策略的压电扫描器迟滞与振动控制方法。传统的AFM通常工作在较低的扫描频率下，因此，相对于迟滞效应，压电扫描器的振动模态并未对AFM图像质量产生明显的影响。但当前的科学研究迫切需要提高AFM扫描成像的速度。在这种情况下，压电扫描器的动态特性将被激发，并且与其迟滞非线性耦合在一起，从而增加了控制器设计的难度。本文考虑到AFM逐行扫描的特点，设计了双环学习控制策略对系统中的动态不确定性和迟滞非线性环节分别学习，并利用滑模和自适应控制器处理以上部分的学习误差。通过李雅普诺夫方法对所设计的控制器进行了严格的稳定性分析。仿真结果表明，该算法能明显增加控制系统的带宽，提升跟踪周期性轨迹的性能，从而抑制高频输入下压电扫描器振动模态的影响。　　 第三，提出了一种用于轻敲式AFM的输出反馈鲁棒自适应控制算法。在实际AFM运行时，由于更换样品、扫描器或探针均会改变系统模型的参数，因而需要重新调整控制器的增益，而这对测试人员来说是非常繁琐的工作。为此，本文首先详细分析了轻敲式AFM的工作过程，提出了一种简化的系统模型，在该模型的基础上，设计了K-滤波器以用于输出反馈控制。进而，针对系统中的未知参数和样品扰动，分别设计了自适应环节和鲁棒控制器加以处理。此外，由于AFM探针检测系统的测量范围有限，有可能发生输出饱和问题，因此，本文还对算法在输出饱和情况下的性能进行了详细分析，计算得出饱和问题的吸引域，算法的稳定性通过李雅普诺夫方法进行了证明。　　 第四，针对AFM逐行扫描的特点，提出了用于慢变期望轨迹的迭代学习控制算法。在AFM成像过程中，由于控制系统需要在每个扫描点达到稳定状态以保证较好的图像质量，这一方面将增加调节时间，另一方面还会加剧对探针和样品的损伤。为减弱这两方面的影响，本文将学习控制算法用于AFM成像控制系统中。但输出饱和问题的存在以及在迭代域内期望轨迹逐渐变化，使得分析学习控制器的收敛性更加困难。因此，本文针对这两个方面分别展开研究，首先针对一类线性系统在输出饱和情况下，提出了比例型学习控制律收敛的充分条件：其次，设计了一种前馈与反馈相结合的迭代学习控制器，用于迭代域内渐变期望轨迹的跟踪。将所设计的算法用于AFM系统，结果表明该控制器在增加控制系统带宽和降低扫描过程中样品－探针之间作用力方面起到了明显的控制效果。