现代机械系统在复杂度、精细度、智能程度上已发生质的跃迁,其和电、液、控制、信息等系统耦合越来越紧密,所呈现出的系统性特征愈益突出。这对机械系统运行的稳定性、可靠性提出了更为苛刻的要求;故障预测诊断方法面临更大的挑战。本文针对现有智能故障监测诊断方法普遍存在的理论支撑较弱、特征提取依赖性强、训练数据依赖性高、对当前深度人工智能模型利用率低、在实际工程应用上普适性不广等主要问题。提出了一种融合变分优化、贝叶斯概率网络、深度神经网络、标准化流变换及相关采样评估优化算法的故障监测诊断模型。本文主要研究工作如下:(1)分析了现有故障监测诊断方法存在的主要局限,讨论了其中存在的主要原因。对当前人工智能领域发展中较为成功的生成模型进行了介绍,详细剖析了其中具备较强理论性、稳定性、代表性的变分自编码器(VAE)模型。并介绍了当前VAE在各领域的研究、应用进展。对VAE理论进行了详细分析,从隐变量生成模型结构、后验分布推断方法、变分优化下界推导方法、自编码变分贝叶斯(AEVB)优化算法四方面,研究构建基于深度智能模型的故障监测诊断方法的主要理论基础。(2)研究了在VAE单一隐变量生成模型结构上的振动信号状态评估方法。通过分析振动信号数据特点和VAE建模间的内在理论联系,提出基于振动信号频域幅值谱的观测数据集及基于振动信号频谱边缘概率分布的状态评估原理。针对振动信号信噪比普遍过低问题,从信息熵角度分析研究基于VAE的振动信号去噪模型,并在仿真及实测实验中验证去噪VAE模型在振动信号降噪上的有效性和优越性。针对VAE缺乏对边缘概率密度较为精确的计算方法问题,本文进一步研究了基于退火重要性采样(AIS)算法的VAE边缘概率密度评估方法。综合以上研究,提出AIS-VAE振动信号状态评估模型,并通过轴承全寿命退化实验验证AIS-VAE模型状态评估有效性。(3)研究了AIS-VAE在多故障振动信号下的信号数据、故障类型联合概率分布建模优化方法,提出基于VAE的变分贝叶斯半监督生成网络故障识别模型。将AIS-VAE模型中单一隐变量生成模型扩展为具有数据、标签联合后验推断的贝叶斯网络生成模型(Bayes Generative Network),形成具有故障诊断能力的VAE-BGN模型。针对于实际工程中经常出现的故障标签缺失问题,在后验推断网络中集成进显式分类器,并重新推导适用于半监督学习的VAE-BGN模型变分证据下界联合优化目标及半监督学习下的AEVB优化算法(S-AEVB)。针对高斯后验分布下多故障信号变分后验推断精确度不足导致各故障后验分布混叠重合问题,将标准化流变换(Normalizing Flow)集成进VAE-BGN模型以实现任意复杂和灵活的后验推断。通过实验证明了标准化流变换使得不同类别故障信号后验分布分界过渡更加明显,变分推断精确性大大加强。针对VAE-BGN模型中显式分类器仅作为半监督学习优化过程中的推断作用,欠缺对故障信号数据最优分类精度理论支撑问题。本文研究了基于吉布斯采样的VAE-BGN理论最优隐式分类器计算算法。最后综合以上研究,提出VAE-BGN故障监测诊断模型,并通过齿轮箱故障诊断实验进行了对比分析验证。