决策树是一类经典的机器学习方法,作为随机森林或Boosting等集成学习方法的基学习器,被成功应用于模式识别、数据挖掘、生物信息学等诸多领域。如何进行分割准则的设计以及分割的搜索是决策树学习的关键性问题,本文基于统计学习中优化目标函数展开研究,取得了以下创新性成果:提出了基于排序损失优化的新型分割准则:成对增益PG(Pairwise Gain)。传统决策树的分割准则主要是基于信息论或统计学等独立进行研究,本文提出了基于损失函数的分析框架,将各种经典的分割准则与不同的损失函数关联起来,从而给出分析分割准则的统一框架。在此框架下,本文基于优化排序损失的解耦合下界提出了新型分割准则:成对增益,并通过理论和实验验证了成对增益对于随机标签噪声具有鲁棒性。提出了基于连续优化搜索分割的带权斜决策树WODT(Weighted Oblique Decision Tree)。传统决策树基于分割准则、并基于启发式暴力搜索分割构建决策树分支。本文通过随机初始化和连续优化目标函数进行分割搜索,在此基础上提出了一种基于权重的斜决策树WODT。实验结果表明WODT比之前的决策树具有更好的预测准确率,且树结构紧凑的同时,比当前斜决策树学习方法具有更快的训练速度。