欠驱动机械系统是指系统的独立控制变量个数小于系统自由度个数的一类非线性系统。它在减少执行元件个数，减轻系统重量以及降低成本方面具有很大的优势，因此对它的研究具有重要的理论意义和实用价值。同时由于欠驱动系统的高度非线性、参数摄动、多目标控制要求等原因，使得欠驱动系统的控制具有较大的难度。本论文以欠驱动机械系统Pendubot和Furuta摆为对象，研究一类非完整欠驱动机械系统的控制方法。Pendubot和Furuta摆系统都有两个自由度，但只有一个驱动装置。Pendubot是一个在垂直平面上运动的二杆机械臂，在肩部有一个驱动器(电机)，肘部没有驱动装置。控制目标是将系统从其平稳下垂位置，通过肩部的电机力矩驱动及依赖系统本身的非线性耦合摆动至垂直竖立位置并使之最终平衡。Furuta摆是由位于水平面上的杆联接竖直平面的杆组成，其中在平面上转动的杆带有驱动电机，并通过末端的铰带动竖直面的欠驱动杆摆动，控制的目标是将欠驱动杆从其平稳的下垂位置，通过水平杆的转动力矩摆动到垂直竖立的位置并使之最终平衡。 论文首先利用拉格朗日动力学方程，建立Pendubot和Furuta摆欠驱动机械系统动力学模型，根据该模型及系统参数提出了欠驱动系统的控制策略。利用基于无源的控制方法设计摇起控制器，通过切换转为基于线性二次调节器(Linear Quadratic Regulator-LQR)平衡控制策略或神经网络平衡控制策略建立的平衡控制器，实现了对Pendubot和Furuta摆欠驱动机械系统的摇起和平衡控制。其次，引入响应速度快、鲁棒性强的滑模变结构控制方法，设计系统的摇起和平衡为一体的控制器。从理论和仿真实验两个方面说明了滑模变结构控制方法的可行性及有效性。同时在各种控制算法中运用粒子群进化方法对各类控制器参数进行优化，以改善系统的控制效果。