随着互联网的不断发展,网络已经渗透到生活的各个方面。网络为人们的生活带来极大便利的同时,也带来了严重的网络安全问题。网络流量异常检测的研究一直是网络安全方向的热点课题。本文将组合学习的方法用于网络流量异常检测的研究,提出了基于逻辑回归和决策树的网络流量异常检测算法及基于遗传算法和梯度提升树的分布式拒绝服务攻击检测算法。本文的主要工作如下。首先,通过对网络流量异常检测技术研究现状进行分析,发现网络流量检测中普遍存在特征维度高的问题,其中无用的特征会增加流量异常检测时的计算复杂度,且会降低准确率。其次,针对网络流量数据特征维度高的问题,本文提出了基于递归特征消除和逻辑回归的特征选择方法,得到流量特征的重要度排序。以准确率为指标,使用决策树算法对网络流量进行建模和预测。再次,通过分析基于逻辑回归和决策树的网络流量异常检测算法的实验结果发现,网络流量异常检测时存在难以区分正常流量与拒绝服务攻击流量的问题,而目前安全领域对与该攻击本质攻击原理相同但危害更广的分布式拒绝服务攻击更为关注。因此本文设计了针对分布式拒绝服务攻击的检测算法。算法第一阶段是基于遗传算法和决策树的分布式拒绝服务攻击的特征提取,选出的最优特征子集输入到第二阶段基于梯度提升树的分布式拒绝服务攻击检测算法中完成检测。最后,本文在UNSW-NB15数据集上进行基于逻辑回归和决策树的网络流量异常检测实验,在CICIDS数据集进行基于遗传算法和梯度提升树的分布式拒绝服务攻击检测,并通过实验验证了本文所提方法的有效性。