基于核主成分分析的特征变换研究

来源 :浙江大学 | 被引量 : 0次 | 上传用户:daluo13613152523
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
作为核方法在机器学习领域得到普及的典型代表,基于核主成分分析的特征变换在众多领域得到了广泛的应用。由于其出色的性能表现,核主成分分析自诞生以来受到了越来越多的关注,成为机器学习和模式识别领域的研究热点之一。随着信息技术的发展,机器学习已经成为推动信息技术革命的加速器,这使得基于核主成分分析的特征变换在未来会得到更广泛的应用。但是基于核主成分分析的特征变换在理论和应用上还有许多问题尚待解决,如特征变换的鲁棒性、有效性、原像求解问题等等。因此对其研究探索具有重要的意义。本文根据目前基于核主成分分析的特征变换存在的主要问题,开展了一系列研究工作,提出了一些基于核主成分分析的特征变换及其优化方法,主要包括:1.基于单一子空间的核主成分分析特征变换方法以心拍分类为应用背景,研究了基于单一子空间的核主成分分析特征变换方法。在此方法上结合离散小波变换、神经网络等技术给出了一种完整的自动心拍分类系统。该系统由信号预处理、特征变换和模式识别三部分部分构成,核主成分分析的特征变换作为其中关键一环,给出了心拍模式的更完整的非线性表示。实验表明,本文提出的心拍分类系统在类别导向和个体导向两种评估方法下都取得了很好的分类结果,性能优于当下主流的心拍分类系统。2.基于多子空间的核主成分分析特征变换方法针对基于单一子空间的核主成分分析特征变换方法无法有效保留类间差异信息的缺陷,本文以人脸识别为应用背景,通过在计算核特征脸时引入类别信息,提出了一种基于多子空间的核主成分分析特征变换方法,并据此提出了一套人脸识别方法。根据核主成分分析及其变种核熵成分分析,本文实现了该方法的两种具体实现算法,分类器采用最小重建误差规则。实验结果表明了基于多子空间的核主成分分析特征变换的人脸识别方法相比传统的基于单一空间的方法具有很明显的优势,另外,在核函数的选择上,多项式核函数在实验中的分类效果要好于径向基核函数。3.特征空间到输入空间的特征变换方法特征空间到输入空间的特征变换方法即所谓的原像问题,这是核方法中的一个重要问题。然而,这是一个不适定的问题,该问题的解通常不唯一甚至不存在。本文提出了一种创新的原像求解算法。在该算法中,通过一种新的保留局部线性的构架,能够建立针对训练样本的逆映射过程。在该构架中,通过邻域子空间变换隐式地引入了局部非线性变换,使得特征空间和输入空间之间的局部线性得以保留。通过将该逆映射扩展到测试样本,能够得到原像问题的解。本文提出的算法是非迭代的,并且适用于任何核函数。基于KPCA图像降噪的实验结果表明该算法优于目前主流的原像求解算法。4.基于核主成分分析的鲁棒特征变换方法核主成分分析对于异常点非常敏感,使得特征变换缺乏鲁棒性。本文提出了一种鲁棒的核主成分分析算法。在经典核主成分分析中特征向量和中心点都能够表示为特征空间中训练样本的线性组合,在这一观察的基础上,借用鲁棒性统计的思想,本文给出了一种鲁棒的损失函数表达式。该表达式的解能够通过迭代的方式得到。本文提出的算法能够对样本的中心点和特征向量同时作出鲁棒性估计,其解的形式也与经典核主成分分析的解的形式一致,因此能够很容易集成到已有的系统中。实验结果表明本文提出的算法能够很快收敛,并且对异常点具有很好的鲁棒性。
其他文献
傅山,明末清初之际山西著名学者之一,以其子学研究最为学者称道。《淮南子评注》,即是傅山众多子学论著中的一种,其主要内容是对《淮南子》进行校对、注释以及评点。傅山评注之处
<正>全球临床试验注册制度由世界各国政府共同决定由WHO领导建立。临床试验注册具有伦理和科学的双重意义,目的是为了尊重和珍惜所有试验参与者的贡献,他们的贡献用于改善全
目的分析糖尿病早期肾损伤诊断中尿糖与尿微量白蛋白联合检验的效果。方法选取2018年6月—2019年6月在该院进行治疗的100例糖尿病患者作为研究组,另外选取100名在该院进行体
热胀冷缩的现象在日常生活中较为普遍,物体在温度的影响下形状发生变化。温度是影响长度计量精准度的重要因素。本文首先以长度计量检定出发,探究长度计量的工具、基准以及误