微小型四旋翼无人直升机是一种结构简单、飞行方式独特的垂直起降无人机。在很多领域都有着广阔的应用前景。本文以一种四旋翼无人直升机为研究对象,根据微型四旋翼直升机的动力学特性建立了数学模型,分别研究、设计了线性和非线性控制器,并通过仿真试验进行了验证。主要研究工作为：针对本文所使用的微型四旋翼直升机进行了建模研究,从动力学和运动学两个方面分析其特性,得到微型四旋翼直升机的运动方程。分别利用小扰动方法和反馈线性化方法将非线性动力学模型线性化,针对姿态回路和位置回路设计了PID控制器,并通过仿真实验验证了所设计控制器的有效性。由于动态特性的影响,线性化控制器在实际运用中可能会引起平面内漂移等误差。为了对无人机进行高效、精确的控制,针对微小型四旋翼这个欠驱动系统,用基于反步法的滑模控制设计了欠驱动系统的非线性控制器。运用simulink搭建微小型四旋翼飞行器的仿真系统,仿真结果表明该控制器有效、可行。最后,针对系统实际应用情况,研究了具有外部扰动时的微型四旋翼直升机自适应控制。采用自适应方法对系统参数进行估计,设计了基于反步法的滑模控制器。仿真结果表明所设计的控制器能够较好的实现定点悬停和轨迹跟踪,抗干扰能力强,具有一定的鲁棒性；进一步,深入分析了控制器参数对系统性能的影响,利用量子粒子群多目标优化算法对参数进行了优化设计,得出了满足要求的参数优化值。仿真实验验证了方法的有效性。