随着越来越多的人上网,互联网技术迎来了飞速的发展,流量也呈现爆炸式增长,其中夹杂着的恶意流量和加密流量占比也在不断增加,而加密技术的发展也使得恶意流量的检测愈发的困难,严重影响了网络空间安全。网络中的流量检测技术也就因此而产生了,网络流量检测实质上就是网络流量的分类,目的是区分出网络中的恶意流量与正常流量。随着网络技术的不断变革网络流量分类技术也在不断地发展着,从原先的最简单的基于端口号的,到基于深度包检测的,再到现在比较热门的基于机器学习与深度学习的。本文主要针对网络中的恶意流量和加密流量提出了恶意流量检测模型。首先本文针对网络中的恶意流量,考虑到基于端口和基于深度包检测的方法不适合于当前的网络环境,提出一种基于一维CNN恶意流量检测模型。该模型将机器学习中的特征工程与深度学习中的自动学习相结合,将网络流量中通过人工所提取的流量特征（如连接特征、内容特征、统计特征等）进行预处理后合并成多维的特征向量作为一维CNN的输入,通过一维CNN模型进行深层次的提取与分类。最后通过实验对比分析验证该模型对网络中的恶意流量检测的效果。其次本文针对当今网络中加密流量已经成为了主要流量这一现状,考虑到加密流量虽然可以与普通流量一样人工提取到流量的行为特征,但是对于内容特征部分则不能进行提取,并且分析最常见的HTTPS加密流量中的TLS握手过程中的特性,发现TLS握手过程中恶意流量与正常流量所选择的加密套件与扩展块有着比较大的差别,因此提出一种基于CNN和GRU的加密恶意流量检测模型。该模型取网络流量中的前20个数据包,首先通过CNN自动提取数据包层面的特征向量,再将提取的每一个数据包中间特征向量作为GRU的输入,自动提取网络流量层面的时序特征,并将其结果用于分类。最后通过实验对比分析验证该模型对网络中加密流量的恶意流量检测效果。