最小二乘支持向量回归算法鲁棒性研究及其在多分类问题中的应用

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:lwsea
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
加权最小二乘支持向量机权重隶属模型设置的合理性将影响到加权最小二乘支持向量机的鲁棒性和算法的计算复杂度。论文提出了两种权重隶属函数模型:局部密度比模型和核K-近邻模型,并构造了基于这两种权重隶属函数模型的最小二乘支持向量回归算法。 基于数据挖掘领域中局部异常因子的思想,提出了一种基于局部密度比率权重设置模型的加权最小二乘支持向量机:根据每个样本到它所在邻域里其他样本的密度比的关系给这个样本赋权重;并且采用了一种单参数选择策略,避免像其他权重设置算法一样必须确定两个阀值,从而简化参数选择。数值实验证明我们所提出的方法能有效地识别出大多数异常噪声数据,且实验得到的回归函数具有理想的鲁棒性。 传统权重隶属度的确定都是在原始空间进行的。当把原始空间中的点通过映射Ψ(s<,i>)映射到高维空间时,原始空间的点在高维空间里将重新分布。由于映射Ψ(s<,i>)的具体形式并不知道,即原始空间中非线性可分样本在高维空间中是如何重新排列成线性可分的也是不知道的,因此,论文提出在高维空间设置权重的思想,提出了一种基于核一K近邻权重隶属模型,并构造了对应的加权最小二乘支持向量机模型。 在多分类问题研究领域,当前国内外很多学者采取了各种手段来提高分类精度、和测试效率,但这些方法都是基于对多个分类器的组合优化,分类精度和效率有待进一步提高。论文提出了利用最小二乘支持向量回归求解多分类的思想,并把基于局部密度比率权重设置模型的加权最小二乘支持向量机算法应用于多分类问题,该方法先分别对 类样本中每类样本利用一种基于局部密度比率权重设置模型求出权重隶属因子,然后运用加权最小二乘支持向量机回归算法一次性对所有样本进行训练。大量的数值实验证明此方法得到的唯一分类器,有良好抗噪声能力、具有鲁棒性,在测试识别有较好的速度优势。
其他文献
大量实证研究表明,大多数金融资产收益率的分布具有与正态分布不符的特征,收益率序列也并非随机游走,主要体现在收益率分布的尖峰厚尾性、收益率序列的簇集性和长期记忆性等。收
本文研究了不可压磁微极流体方程组,此处公式省略...  这里u(x,t),ω(x,t),b(x,t)和p(x,t)分别表示流体在(x,t)∈ Rn×[0,+∞)处的速度场,微旋转速度,磁场和液体静压力,n=2