统计学习理论建立在结构风险最小化原则的基础上。与传统统计学习理论相比,V.Vapnik等人提出的统计学习理论是一种针对小样本情况研究统计学习规律的理论。与此同时,在这一理论基础上发展起来的支持向量机可用于模式识别和回归估计,因其具备理论完备化、全局优化、推广性好、适应性强等优点而不同于其余机器学习算法,并且也有力地推动着机器学习理论和技术的发展。然而支持向量机全局化的方法并不蕴含一致性理论,局部支持向量机的提出符合了“全局一致性蕴含局部性”的思路。近年来,局部支持向量机在理论研究及应用方面都得到了一定程度的关注,如遥感图像分类、脑电图信号处理、网络流量预测等领域。本文首先对机器学习和统计学习理论进行简单的介绍,并在此基础上引入支持向量机的特点及研究现状。其次,阐述局部支持向量机的研究现状及其意义,详细介绍并说明局部支持向量机在学习性能上的特点和优势及其一些改进策略。最后,分析当前几种局部支持向量机算法及其改进思路。本文具体完成工作如下：(1)针对局部支持向量机在大规模数据集中时间复杂度比较高的问题,提出基于协同聚类的局部支持向量机,在不降低分类精度的情况下,成功降低了算法的时间复杂度。(2)详细介绍加权支持向量机,并将加权思想应用到局部支持向量机中,提出加权局部支持向量机,以提高小样本数据的分类精度。(3)详细介绍单类支持向量机,并将其用于局部支持向量机,提出单类局部支持向量机进行探索性研究。