论文部分内容阅读
以往的工作中,大部分的研究和应用都是基于 L1-软间隔支持向量机方法的.该文首先较为系统地讨论了 L2-软间隔支持向量机方法,探讨了它与 L1-软间隔支持向量机方法相区别的一些性质,如支持向量分布和几何特性等.在实现算法上,该文针对 L2-软间隔支持向量机方法提出了一种基于积极集法的快速支持向量机训练算法,该算法采用了分解迭代的策略,使用积极集方法来求解二次规划子问题,有效地简化了支持向量机的实现步骤.在多个标准数据集上的数值实验表明,该算法对正则参数C<>的变化不敏感,且在正则参数取值较大C<>>10时,新算法所需的训练时间比经典的 SVM算法要少的多,而得到的预测准确率可以与基于 L1-软间隔支持向量机的算法相比拟.此外,该文从几何直观角度研究了 L2-软间隔支持向量机方法,改进了Keerthi等人提出的最小模算法.使得该算法在所需计算量上可以与近来Keerthi等人提出的最近点对算法(即NPA算法)相比拟,但在编码实现上要简单得多.该文进一步研究了大间隔分类方法.将 L2-软间隔方法与Kernel-Adatron算法相结合,改进了Kernel-Adatron算法,使其不再受样本在特征空间中是线性可分的假设的约束,从而在特征空间中仍然得到统计力学对其收敛速度的理论保证.同时改进了Minover方法,给出了一种加快Kernel-Adatron算法收敛速度的新方法.最后,该文研究了一种基于加权Parzen窗的数据聚类方法.该方法放宽了Parzen窗的权系数限制,采用加权Parzen窗获得对数据分布状态的良好描述,并根据数据的分布状态得到不同模式类的分界面,将聚类过程转变为求解加权Parzen窗权值的线性规划问题.