基于概率计算的SVM研究与实现

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:QIANNENGWUXIAN
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
支持向量机作为一种具有广泛应用的分类算法;其学习训练过程存在复杂度高、训练时间长等问题,因此面对大数据量的训练任务不能很好满足其应用需求。概率计算作为一种新的数值表针方式,具有低复杂度、容错能力强等优势。将概率计算应用于支持向量机之中,对于改进现有支持向量机存在的问题具有重要的研究和工程价值。本论文将概率计算与支持向量机相结合,降低支持向量机的计算复杂度,加速其训练过程。主要的工作如下:首先,我们针对支持向量机中计算复杂度占比很高的高斯核函数计算采用概率计算方法,设计了基于概率的高斯核函数计算结构(JEFA)。该结构主要是先对高斯核函数进行变换,再将概率计算的前向转化与概率指数运算进行一体化设计得到。实验测试表明当概率序列长度为300左右时,JEFA结构计算结果与传统定点方式(定点位宽为15比特)几乎完全一致;而JEFA硬件实现资源开销方面:FF资源开销为传统定点方式的1/5,LUT资源开销为传统定点方式的1/20,而且省去了传统算法中的乘法器资源。因此,JEFA结构在计算性能得到保证的情况下,实现了硬件复杂度的显著降低。其次针对支持向量机中存在高斯核函数集的重复计算问题,我们提出了核存储结构。概率支持向量机的具体实现算法在寻找工作集和梯度更新中需要重复和交叉重复计算。因此,提出共享核函数集的方法,减少核函数集的重复计算,从而进一步降低了算法实现复杂度。最后针对提出的基于概率计算的支持向量机,完成了硬件实现。主要包括数据接收和存储、主进程控制、基于概率计算的核函数集计算、核存储和SVM训练学习模块。其中主要的SVM训练学习模块包括寻找工作集i、寻找工作集j、拉格朗日向量更新、梯度向量更新等模块。实验数据测试表明,在最优参数和分类准确率方面基于概率计算的支持向量机软件仿真(SVM-SC)与Libsvm一致,平均速度为Libsvm的1.5倍;在最优参数和分类准确率方面基于概率计算的支持向量机硬件实现(SVM-SC-H)与Libsvm基本一致。在不损失分类性能的条件下,平均训练速度为Libsvm的40倍。
其他文献
本文以我国31个省、直辖市、自治区为单位,应用聚类分析方法对各地区的人力资本、经济发展、环境状况进行分析,试图探讨人力资本对我国区域可持续发展的影响和途径。结果表明
由于气体超声流量计具有无压损、精度高、量程比大、可测范围大、可测双向流量等诸多优点,近年来在流量计量领域备受关注。测量精度一直是流量仪表的重要性能指标,准确识别超
城市轨道交通具有的运量大、准点率高等优点,因此我国城市轨道交通建设规模在逐渐扩增。导致城市轨道交通成为越来越多居民的出行首选,大城市的轨道交通大客流已成为常态现象
随着经济发展,我国民营企业如雨后春笋般生长起来,由于它们在中国起步较晚,存在着管理体制不全面、人才培养匮乏、各项考核不规范等问题。为使得民营企业长远地发展下去,企业
采用参苓白术散治疗中心性视网膜脉络膜病变30例,结果痊愈21例,好转8例,无效1例,总有效率96.67%.