特征选择是一个重要的数据预处理过程,在机器学习、数据挖掘、模式识别等领域中具有重要的地位和作用。特征选择不但可以解决维数灾难问题,还能够提高算法的泛化能力。因此,对特征选择算法的研究是必要的。根据特征子集的生成策略的不同,特征选择算法可以分为基于启发式的特征选择算法,基于信息理论的特征选择算法和基于演化计算的特征选择算法等。本文的主要工作在于提出了两种新型的特征选择算法,其中一种是基于启发式的特征选择算法XGBSFS(XGBoost sequential floating selection),另一种是基于演化计算的特征选择算法EFSFOA(enhanced feature selection using forest optimization algorithm)。在XGBSFS算法中,通过使用提出的改进的序列浮动前向选择策略很好的利用了XGBoost(extreme gradient boosting)算法在构建集成树模型的过程中得到的重要性度量指标进行特征选择,从而使最终获得的特征子集具有较高的质量。最后经过UCI(University of California,Irvine)机器学习数据库中8个标准数据集的对比实验测试与详细的时间复杂度分析,验证了XGBSFS算法使用的启发式策略的合理性并解释了其具有高效性的原因。在EFSFOA中,通过改进并增强FSFOA(feature selection using forest optimization algorithm)来进一步满足特征选择处理的要求。EFSFOA对FSFOA的改进主要包括从信息增益率的角度给出一种新的初始化策略,在全局播种阶段借鉴模拟退火控温函数的思想自动生成参数,结合维度缩减率提出新的适应度函数,针对形成的优质森林采取贪心算法等。此外,针对FSFOA处理高维数据集能力不足的缺陷,给出了一个适用于EFSFOA的集成特征选择框架,使其能够有效处理高维数据特征选择问题。通过在UCI数据库中的小维、中维、高维数据集上进行测试实验的结果表明,EFSFOA与FSFOA相比在分类准确率和维数缩减能力上均有明显提高,且EFSFOA高维数据处理能力更是提高到了100000维。