支持向量机(Support Vector Machines,简称SVMs)是基于统计学习理论,借助最优化方法来解决机器学习问题的新工具。它是Cortes和Vapnik于1995年首先提出来的,已成为近年来机器学习研究的一项重大成果。目前对支持向量机的研究主要集中在对其本身性质的研究和完善以及加大应用研究的深度和广度两方面。本文以解决分类问题为目标,对支持向量分类机从其理论和模型的完善及应用两个方面,进行了较深入的研究和实践,以达到理论和实践的结合。 本文的主要研究工作如下: 1.在深入研究现有支持向量分类机和支持向量回归机的基础上,把分类问题看作特殊的回归问题来处理,通过引入不同的范数以及不同的损失函数,构建求解分类问题的支持向量回归机新模型。并对引入高斯损失函数得到的新模型,给出求解的简便方法——简化的序列最小最优化算法。进一步,对多类分类问题,提出了新的多类分类模型,数值试验表明了该模型的鲁棒性和有效性。从而给出求解分类问题的支持向量机的新思路和新途径。 2.Fung和Mangasarian从直观上提出了中心支持向量分类机。本文通过理论推导和分析构造出中心支持向量分类机的原始优化问题,从不同的途径给出了中心支持向量分类机。在此基础上,首次给出了稀疏的中心支持向量分类机、加权的中心支持向量分类机。对含有不确定信息的分类问题,通过引入概率变量,构建了不确定中心支持向量分类机。从而实现对中心支持向量分类机理论的推广、完善和创新。 3.Vapnik提出了推理型支持向量分类机,其优化问题的求解比较困难。本文将其原始最优化问题变为无约束问题,并对其进行光滑化,从而构建了改进的推理型支持向量机和加权的推理型支持向量机,并成功的将新模型应用到网络入侵检测中,给出了网络入侵检测的新方法,使推理型支持向量机的理论和应用研究有了新的突破。 4.首次将支持向量分类机应用到海水工厂化养殖中的环境监测问题。对河北省唐山市、秦皇岛市沿海的养殖工厂,随机采集了鱼类生长环境数据,进行了检测、监控实验,取得了较好的应用效果,在切实解决实际问题的同时,进一步拓宽了支持向量机的应用领域。 本文构建的各种新的支持向量分类机,较一般支持向量分类机有各自明显优势和良好的性能,主要体现在有的模型有求解的简便算法,有的模型测试精度高,有的模型解决实际问题时针对性强,这均在数值试验和实际应用中得到证实。