论文部分内容阅读
本文主要研究了支持向量机(Support Vector Machine,简称SVM)在线算法及其在连续搅拌反应釜(Continuous stirred tank reactor,简称CSTR)中的应用。支持向量机是在统计学习理论和结构风险最小化原理的基础上建立起来的一种基于数据的机器学习新方法。SVM较好地解决了小样本,非线性,维数灾难和局部极小点等实际问题,具有很强的泛化能力。支持向量机最早用来解决分类问题,若分类问题的二值输出扩展到连续输出,这就是支持向量回归(Support Vector Regression,SVR)。鉴于支持向量回归的优越性能,其被广泛地应用于函数拟合,系统辨识和模式识别等。
目前已经有了一些成熟的支持向量机训练算法得到广泛应用,如著名的序贯(Sequential Minimal Optimization,简称SMO)算法、chucking算法和分解算法等。然而,这些算法并不适合在线训练,对支持向量机在线训练算法的研究还很少。目前研究较多的增量算法由于训练速度和精度的原因也对其实际应用造成较大障碍,因此本文提出两种支持向量机的在线训练算法,解决支持向量回归在线应用的实时性和精度问题,扩展其应用的领域。
本文首先介绍了统计学习理论研究的基本问题和支持向量机的基本理论,重点回顾和分析了支持向量机训练算法的国内外研究现状。在此基础上分别将自然梯度和自适应学习方法引入支持向量回归,得到基于自然梯度的和自适应的支持向量回归在线算法,并将该算法应用于非线性函数的在线学习与预测。仿真实验证明,两种算法都具有学习速度快,实时性强,预测精度高和收敛值渐进趋向批量优化的参数估计值等优点。
其次,本文从复杂性、收敛速度、训练精度和核函数参数的选择等方面将自然梯度的支持向量回归算法、自适应的支持向量回归算法和增量算法进行了比较。仿真结果表明,与增量算法相比本文提出的两种算法具有学习速度快,实时性强,预测精度高等优点。
最后,将本文提出的两种算法用于连续搅拌反应釜的系统建模,并与增量算法进行比较。仿真实验表明,本文提出的两种算法更适合CSTR这一类复杂非线性系统的在线建模。