随着人工智能和机器学习技术的日益兴盛和逐渐成熟,对数据中隐含的信息进行挖掘也变得更加的重要。如何有效地挖掘数据中的关键信息,提升机器学习效率也成为了亟需解决的关键问题。在信息时代,企业通过尽可能多地收集各种日志数据、在线数据等不同形式的数据以满足不同的业务和智能计算的需求。由于计算机能力或响应时间的限制,更多的数据特征也意味着需要更多的时间和金钱成本,同时不必要的特征甚至可能降低算法的泛化性能。特征选择算法旨在从原始特征中选择出一部分有效特征,降低数据维度,以提高学习算法性能。特征选择在降低数据维度的同时还能保留数据原本的含义,因此特征选择方法的研究得到了很多学者的关注。信息论是特征选择中常用的评价方法之一,其中的互信息能有效地识别数据间的线性相关性和非线性相关性。但互信息存在不能够很好地适应数值数据的问题,而现实数据往往是既包含数值特征又包含符号特征的混合类型数据,如何恰当且高效地衡量数值数据间的互信息具有较高的究价值。在大数据时代,各行各业积累了大量数据,然而数据的标记大多只能通过昂贵的人工标记来标记其中较小的一部分。如何有效的利用这种只包含小部分标记的数据已经成为机器学习邻域中备受关注的问题。面对混合类型数据、半监督数据和大数据的挑战,本文依次提出了解决方案。最后实现了基于Spark的混合属性大数据半监督特征选择算法。本文的主要研究工作和创新点如下:提出了结合邻域粗糙集差别矩阵和mRMR原则的特征选择算法。根据最大相关性和最小冗余性原则利用邻域熵和邻域互信息定义了特征重要度,以更好地处理混合数据类型。基于差别矩阵定义了动态差别集,利用差别集的动态演化有效地去除冗余属性并缩小搜索范围,优化特征子集,根据差别矩阵判定搜索截止条件。实验结果表明本文方法能有效地提高分类精度。针对小数据的邻域互信息存在较大误差的问题,使用基于邻域的对称不确定度替代邻域互信息进行特征重要度评价,提出了基于邻域的对称不确定度的半监督特征选择算法。特征的相关度计算使用有标记的数据,属性冗余度计算使用完整数据,尽可能地利用数据信息来评估特征间的冗余度。实验结果表明在小数据集上,提出的方法能在选择特征较少的前提下获得更高的分类精度。针对基于邻域粗糙集的信息熵和互信息计算复杂度过高的问题,提出了基于数据排序的邻域互信息快速计算方法。该方法能够将邻域熵的复杂度从O(n~2)降低到O(nlog n),并且能够在O(nlog n)复杂度的前提下,计算基于无穷范数邻域关系的联合邻域熵的近似值,进而快速地估计邻域互信息。实验表明在大数据集下,本方法较明显地降低了邻域互信息的计算时间,并且能保证较高的近似精度。利用Spark框架,结合前期研究,提出了基于列式分区的混合数据类型数据的半监督特征选择算法。利用快速邻域互信息算法,实现了在满足混合类型数据处理的同时,具有较快的运算速度的要求。优化了启发式搜索过程,去除了传统算法中的重复计算。实验结果表明提出的算法具有能够选择出较好的特征提高分类性能,同时能够应对海量数据带来的挑战。