论文部分内容阅读
支持向量机(SVM)是上个世纪七十年代Vapnik基于统计学习理论提出的一种新的智能学习机器,分为支持向量分类机和支持向量回归机,一直到九十年代由于传统机器学习遇到瓶颈才逐渐被人熟知。Vapnik结合优化理论,提出了结构风险最小化原则等新的思想和方法。由于相对完备的理论基础和展现出的很好学习性能,SVM能很好地解决非线性、小样本和高维数等传统机器学习算法所面临的困难,并且能有效地处理文体分类,图像识别和回归估计等实际问题,因而成为机器学习理论的研究热点之一。相对于SVM在分类领域研究的完善,回归问题中还有很多待于探索和完善。针对e-SVR中的参数冗余和LS-SVM失去“支持向量稀疏性”的两个缺陷,本文利用支撑函数将求解最窄ε-带的硬线性回归问题转化为一个二次规划问题,提出了一种新的支持向量回归机改进模型,即最窄带回归机(MTRM:Minimum Tube Regression Machine),彻底回避了冗余参数ε,并利用罚函数及核函数技术将硬线性回归模型发展为软线性回归模型和非线性模型。数值实验表明:最窄带回归机既没有增加模型的复杂性,又在回避参数ε的同时保留了支持向量稀疏性的优点;同时还验证了最窄带回归机与e-SVR在选择最佳参数ε时得到的回归效果一致。