现代工业系统日益提高的可靠性和安全性方面的要求,在控制科学领域已经激发了大量的研究工作。这些研究活动旨在寻找新的设计方法,来检测和判断设备的失灵,调整或修缮元器件的故障,并维持系统的稳定性和可接受的生产性能。这样的控制策略通常被称为故障诊断(FD)和容错控制(FTC)方法。系统自身带有的非线性特性和系统运行环境中普遍存在的未知干扰,给非线性系统的故障诊断和容错控制的研究领域带来了前所未有的困难,如何满足非线性系统中的更高的安全性和可靠性的要求,这是传统的故障诊断和容错控制方法不能解决的问题。现有的非线性故障诊断观测器设计的大量结果通常关注于保证故障估计的准确性方面和故障检测的敏感性方面。然而随着现代工业系统对于安全性的要求越来越高,对于故障诊断的实时性和快速性、鲁棒性、可分离性等等要求越来越不可忽视。日益提高的故障诊断设计要求给现有的非线性系统的故障诊断观测器的两大类设计方法,即基于未知扰动解耦的诊断方法和基于参数估计的诊断方法,带来了很多的具有难度的亟需解决的新课题,例如基于未知扰动解耦的诊断方法在处理不确定性和扰动结构未知的情况特别是系统中带有随机变量时很难保证故障诊断的鲁棒性；而基于参数估计的诊断方法在处理不确定系统时很难保证诊断实时性和快速性；基于未知扰动解耦的诊断方法一般只能检测故障的发生,而使用基于参数估计的诊断方法进行故障的分离时又难以保证鲁棒性；在一些工业系统如造纸设备中可测量的输出量往往是随机量的概率密度函数,此时很难进行故障诊断等等。因此,针对具有实时性和快速性、鲁棒性、可分离性等更多高性能要求的非线性系统故障诊断方法的研究符合日益发展的复杂工业控制过程的需要。另一方面,与非线性系统故障诊断研究密切联系的是非线性系统容错控制的研究。随着现代工业系统的生产规模和复杂度不断增加,现有的非线性系统的容错控制方法也因所涉及的工业控制系统的非线性程度的增加、出现故障的多样性、所采用的控制器设计方法的相对落后和容错控制性能要求的提高而暴露了越来越多的有待研究的问题,例如对于非线性被动容错控制器的设计往往归结为无法有效求解的HJI不等式(Hamilton-Jacobi inequality)；发生在带多项式增长界的不确定性系统中的执行器死区故障使得自适应输出反馈控制器的构造变得非常困难；对于不确定非线性系统中的执行器偏移故障的集成诊断和容错控制缺乏高效的观测器设计方法,而对于故障诊断的鲁棒性、实时性、敏感性以及故障补偿的快速性很难给出定性的分析；如何检测和处理带有与未知状态相关的不确定非线性系统中的执行器故障包括失效以及卡死等故障(特别是卡死值为时变值的故障)是现有文献中已经提出的未解决的问题；大规模复杂多智能体控制系统,对于网络通信的通道增益摄动缺乏可靠的合作控制方法等等。因此,探索新颖的容错控制器设计方法来处理上述的非线性系统中的容错控制问题具有重要的理论、应用研究价值。在故障诊断方面,本论文研究了几类具有工业背景的非线性系统,即高斯随机时延系统、非高斯不确定随机系统和一类不能精确线性化不确定非线性系统,在保证故障诊断的准确性和敏感性的基础上,同时根据不同系统的特点针对性地考虑了故障诊断的鲁棒性、实时性和快速性、可分离性设计问题。本论文给出的故障诊断方法综合利用非线性高增益观测器技术来保证故障诊断的鲁棒性和敏感性,同时使用非线性自适应观测器技术来实现故障的估计和隔离。故障诊断观测器的设计使用了构造性方法,通过非线性坐标变换和基于Lyapunov理论和随机分析等方法来完成参数的调节,并对于可检测和分离的故障集合、故障检测和诊断时间、鲁棒性和敏感性给出了定性的分析。在容错控制方面,本论文研究了几类的具有代表性的非线性系统,即多项式非线性系统、带多项式增长界的强非线性系统、带不确定性的严格反馈非线性系统、带有与未知状态相关的不确定非线性系统以及复杂多智能体合作系统。对于难以求解的非线性最优被动容错控制问题给出了可计算求解的优化性能的非线性最优容错控制方法；对于强非线性系统中的执行器死区故障给出了新颖的数值化构造自适应输出反馈控制器方法；对于强非线性系统中的多种执行器故障给出了新的统一故障建模和新的基于自适应切换的故障检测和容错控制策略；对于带有不确定性的严格反馈系统给出了故障检测与容错控制集成的新框架和鲁棒性及敏感性定性分析方法；对于强耦合的多智能体复杂系统给出了新的控制器结构,同时解决了可靠控制问题。本论文将部分理论研究成果应用于生物化学反应釜、造纸机、直流步进电机、F-18战斗机模型、单连杆单节机器人、多有轨电动车系统的仿真试验研究中。本论文的具体研究工作如下：第]章系统地分析和总结了故障检测和容错控制的前沿研究领域的发展现状及研究方法。第2章针对来源于生物化学反应釜系统的一类带有时延的非线性高斯随机系统给出一种基于高增益非线性观测器的故障检测方法。所考虑的系统中包含参数不确定性、高斯随机噪声、时延以及Lipschitz型非线性项。设计目的是研究一类鲁棒滤波器，使得估计误差的动态在噪声和不确定性存在的情况具有均方意义下的随机指数稳定性。这种新的高增益滤波器的设计思路使用Lyapunov方法和随机系统的稳定性分析方法,整体的设计过程不须求解微分不等式,同时所设计的故障检测观测器的形式直接显式地推导出来。观测器中的设计参数的选取不须使用数值计算来求解任何矩阵不等式(LMIs)。仿真算例验证了这章提出方法的有效性。第3章针对来源于造纸机系统的一类仅知道输出量的概率密度函数(PDFs)的非高斯不确定随机系统,研究一种基于高增益非线性观测器的故障诊断方法。设计目的是使用输出量的概率密度函数和系统的控制输入量构造基于指数观测器的残差信号,从而对故障进行检测和诊断。主要的结果是不使用精确线性化技术,而发展新颖的非线性观测器构造方法。通过坐标变换,所给出的观测器不须求解线性矩阵不等式而显式地给出。在不确定性存在的情况下,得到误差动态的指数收敛性，从而保证故障诊断策略的快速性。进一步,通过适当的选择观测器中的参数估计误差的上界得到了最小化。最后,仿真算例验证了这章提出方法的有效性。第4章针对来源于直流步进电机的一类不能精确线性化的非线性不确定系统,研究基于一类高增益非线性观测器的残差生成方法来实现故障检测和隔离。所考虑的非线性系统中含有Lipschitz型非线性项,建模不确定性和时变的故障。根据对故障向量适当的假设和持续激励条件,通过给出一类新颖的自适应非线性观测器构造性地设计了一种新颖的故障诊断策略。进一步给出三个设计函数来进行观测器增益的选择,保证预先设定的误差系统的收敛速度、对于不须报警的故障的不敏感性和对于受监控的故障的敏感性,而能够被完全诊断的故障向量的个数与系统的输出量的维数无关。给定可能发生的故障集合,对于受监控的故障的敏感性和对于不须报警的故障的不敏感性都进行了严格的分析。仿真算例验证了这章提出方法的有效性和可行性。第5章研究了一类多项式非线性系统的被动容错控制问题,给出在执行器故障情况下可保成本或者保证L2性能的最优容错控制器设计方法。故障建模为典型的执行器偏移和卡死故障的多模型方式。这一章的创新性在于通过引入并寻找非线性项满足的某个指标的最小化的方式给出了最优容错控制器满足的凸规划条件。结合其它的性能指标,所设计的多目标规划问题可以使用平方和(SOS)优化方法来可靠有效的数值化求解。仿真算例验证了这章提出的最优容错控制方法的有效性和可行性。第6章考虑了一类带有不对称执行器死区故障的强非线性系统的自适应输出反馈控制问题。所考虑的非线性系统含有不带有零动态的下三角系统和输出量满足多项式增长条件的非线性项。本章给出了不须构造死区逆的自适应控制器设计方法。所给出的自适应控制策略只需要死区故障的边界信息和拐点信息。这章的创新性在于给出了一类universal的自适应输出反馈控制器的平方和优化数值化构造方法,来保证在不知道不确定性增长的速率的情况下闭环系统的信号都是有界的。仿真算例验证了这章提出方法的有效性。第7章给出了一种系统化故障诊断和自适应故障补偿控制集成的主动容错控制策略。所针对的非线性系统模型来源于异步电机系统并带有未知的时变执行器故障。基于新给出的可以提供系统状态和系统输出导数的估计值的非线性扩展观测器,这章给出了故障诊断策略和相应的故障可检测条件。进一步,研究了容错控制部分来补偿执行器故障的影响。为了强调故障检测的快速性,对故障检测的时间的上界进行了严格的分析。基于一定的假设条件,新给出的基于故障信息的故障补偿控制器可以保证所有的系统信号在整个检测和补偿过程中保持有界。本章还证明了通过调节观测器中的参数可以保证故障检测和补偿过程具有预想的快速性。仿真算例验证了这章提出的集成故障检测和容错控制方法的有效性。第8章针对带有卡死故障的一类强非线性系统的主动容错控制问题,所使用的技术是基于逻辑切换机制的自适应控制方法。所考虑的不确定性是对于不可测状态具有线性增长界,而对于可测输出量具有任意的连续函数增长界,其中的增长界可以带有未知的常数速率。本章建立了一个统一的模型来综合考虑几类常见的执行器故障,如偏移、失效、卡死和信号过强等。在存在强非线性的情况下,通过使用一种新颖的自适应逻辑切换控制策略,执行器故障可以被检测并自动的被加以补偿：执行器将自动从卡死的通道切换到未发生故障的通道或者未完全卡死的通道。针对无故障运行和有故障发生的两种情况,本章给出了两种更新输出反馈控制器中的参数的方案来保证在发生故障的前后整个闭环系统中的信号都保持有界。把本章方法应用于F-18战斗机模型、单连杆单节机器人的仿真算例验证了这章提出的自适应切换容错控制方法的有效性。第9章研究了一类带有强耦合的多智能体复杂系统的分布式估计器设计和可靠合作控制器设计问题。其中编队中的智能体单元被建模为一类不确定非线性系统,它们之间可以通过具有一定非定向拓扑结构的通信网络来进行交换估计器中的信息。每个智能体单元通过携带整个编队的坐标状态估计信息,同时新给出的混杂控制策略可以自动的根据在线的监控信号进行控制器参数的调整。主要结果的关键是寻找控制器参数的切换逻辑并确定观测器增益切换动态中的输出量的函数形式。通过对团环系统动态的稳定点进行Lyapunov理论的分析,本章给出了种构造性的设计过程同时保证估计器误差的协同性和整个大系统中的信号的稳定性,从而完成了自适应可靠合作控制器的设计。将本章方法应用于多有轨电动车系统的仿真算例验证了这章提出的自适应可靠容错控制方法的有效性。最后对全文所做的工作进行了总结,并指明了下一步研究的方向。