在网络化控制系统中,各系统部件产生的信号被采样后通过通信网络进行数据传输,在节点间相互传递的过程中会发生信息冲突和拥塞等问题,因此通常采用通信协议的方式分配节点。在实际工程应用中,存在各种不可预知的扰动,造成系统很难精确地达到期望的各项性能指标,因此利用概率约束H∞性能指标,使得系统更契合实际应用是非常必要的。目前人们对保概率问题的研究主要集中在线性系统的控制问题,而保概率约束下对通信协议调度下含有网络诱导现象的非线性时变系统滤波问题研究成果较少,为解决以上问题,完善研究体系,本文研究了通信协议下非线性时变系统的保概率H∞滤波问题。考虑的通信协议包括Round-Robin（RR）协议、Weighted Try-Once-Discard（WTOD）协议和随机通信协议（Stochastic Communication Protocol,SCP）,主要工作如下:首先,研究基于Round-Robin协议的一类非线性时变系统的保概率H∞滤波问题。考虑在数据传输过程中产生的网络拥塞和资源占用现象,采用RR协议对网络节点间的数据传输进行调度。针对实际系统很难以概率1满足期望的各项性能指标这一问题,采用概率约束H∞性能指标,设计保概率滤波器,同时由于系统传感器与待设计滤波器之间存在非线性扰动,构造了保概率非脆弱H∞滤波器。系统的不确定参数由随机变量控制,随机变量服从均匀分布且相互独立。求解递归线性矩阵不等式得到以概率满足性能指标的滤波器存在的充分条件,实现在RR协议下非线性时变系统的保概率非脆弱H∞滤波器的设计。其次,研究受WTOD协议和传感器饱和影响的非线性时变系统保概率H∞滤波问题。采用WTOD协议解决复杂网络系统中多传感器节点的通信权限分配问题。针对系统传感器饱和现象,利用扇形有界条件刻画传感器饱和现象的数学模型,同时构造了保概率H∞滤波器。通过对递归线性矩阵不等式求解得到以概率满足性能指标的滤波器存在的充分条件,实现对WTOD协议下保概率H∞滤波问题的研究。最后,研究SCP协议影响下非线性时变系统的保概率H∞滤波问题。分别考虑时滞现象以及欺骗攻击对系统的影响,针对信号传输的随机性,采用扩展性好的SCP协议对各节点进行调度。针对系统在信号传递及处理过程中产生的时滞现象,研究伴随时滞性的非线性时变系统。针对不受安全保护的数据易被恶意攻击的问题,研究欺骗攻击对系统的影响,建立欺骗攻击模型,利用非线性条件约束恶意信号。在两种情况下分别设计保概率H∞滤波器,将伴随时滞的系统应用在连续搅拌反应釜滤波问题中。