论文部分内容阅读
加权最小二乘支持向量机权重隶属模型设置的合理性将影响到加权最小二乘支持向量机的鲁棒性和算法的计算复杂度。论文提出了两种权重隶属函数模型:局部密度比模型和核K-近邻模型,并构造了基于这两种权重隶属函数模型的最小二乘支持向量回归算法。
基于数据挖掘领域中局部异常因子的思想,提出了一种基于局部密度比率权重设置模型的加权最小二乘支持向量机:根据每个样本到它所在邻域里其他样本的密度比的关系给这个样本赋权重;并且采用了一种单参数选择策略,避免像其他权重设置算法一样必须确定两个阀值,从而简化参数选择。数值实验证明我们所提出的方法能有效地识别出大多数异常噪声数据,且实验得到的回归函数具有理想的鲁棒性。
传统权重隶属度的确定都是在原始空间进行的。当把原始空间中的点通过映射Ψ(s<,i>)映射到高维空间时,原始空间的点在高维空间里将重新分布。由于映射Ψ(s<,i>)的具体形式并不知道,即原始空间中非线性可分样本在高维空间中是如何重新排列成线性可分的也是不知道的,因此,论文提出在高维空间设置权重的思想,提出了一种基于核一K近邻权重隶属模型,并构造了对应的加权最小二乘支持向量机模型。
在多分类问题研究领域,当前国内外很多学者采取了各种手段来提高分类精度、和测试效率,但这些方法都是基于对多个分类器的组合优化,分类精度和效率有待进一步提高。论文提出了利用最小二乘支持向量回归求解多分类的思想,并把基于局部密度比率权重设置模型的加权最小二乘支持向量机算法应用于多分类问题,该方法先分别对 类样本中每类样本利用一种基于局部密度比率权重设置模型求出权重隶属因子,然后运用加权最小二乘支持向量机回归算法一次性对所有样本进行训练。大量的数值实验证明此方法得到的唯一分类器,有良好抗噪声能力、具有鲁棒性,在测试识别有较好的速度优势。