论文部分内容阅读
随着网络规模的日益增大,网络用户的不断增长,网络用途的多样化,用户对网络服务质量需要越来越高,这对网络测量方法提出了更高的要求。同时网络传输能力和网络中实际业务流量的不断增加使得基于全流采集的传统被动测量方式变得难以实施。测量产生的庞大数据也难以传输,表达与分析。目前分析流量诸多方法中,NetFlow技术已经成熟,成为互联网领域最主要的IP流量统计、分析和计费行业标准。
论文在CERNET华东(北)地区网络中心江苏省网监测需求背景下,重点研究了基于NetFlow数据的流量实时计算模型、网管测度定义与测量方法、两类不同数据源的统一流记录格式生成及存储流程设计,设计并实现了基于NetFlow的网络行为观测系统NBOS。
论文首先介绍了当前网络流量信息获取技术现状,指出网络管理存在的问题,并针对当前问题提出使用流级处理完成流量监测。在此基础上介绍流技术,着重介绍了NetFlow相关技术背景,包括基本概念、NetFlow流生成技术等,并给出NetFlow相关研究现状。
其次,论文对NBOS系统设计过程中的关键问题进行了研究,包括实时流量计算模型的建立、网络管理测度的定义与测量方法、系统不同类型数据管理。
实时流量计算模型针对基于流的现有流量计算模型的不足,提出两类误差,作者着重分析了第二类误差成因,在相关假设基础上,给出相应解决方案及模型建立步骤。基于实际网络环境,在统计大量流量数据后,设置模型参数具体值,如测量时间窗口等。最后给出解决第二类误差的精度估计公式。
NBOS通过网络管理测度刻画当前网络状况及流量行为。论文讨论相关网络管理测度定义及测量方法。首先通过分析当前网管需求及NetFlow相关字段,给出满足当前需求的网络管理测度分类。接着分析、讨论基于NetFlow流记录测度计算关键算法,主要考虑采集数据的缓存和快速访问、排序比较两方面算法设计,设计、选择符合实际需求的两类哈希算法及直接插入排序算法。最后给出相关网管测度的详细测量动机、测度描述及测量流程。
NBOS的数据源包括两类:第_类是由路由器抛出的NetFlow流记录,第二类是特定报文trace。系统将两种不同的数据源生成统一格式的NetFlow流记录文件。首先给出统一的NetFlow流记录存储格式,包括目录设计,命名格式及特定的文件存储结构。接着分别针对两类不同的数据源,给出其转换过程:第一类转换主要依据前述流量实时计算模型中给出的相关参数,完成流数据的实时采集、排序及存储过程;第二类转换参考特定trace格式,依据通用组流框架,完成NetFlow组流机制、NetFlow流存储机制设计,并给出详细组流参数。最后给出流记录文件长期数据管理策略,以保证系统的稳定性。
基于以上关键问题分析,论文最后给出系统总体结构设计、各功能模块与主要工作流程,实现了一个基于NetFlow的网络行为观测系统(NBOS)。并从功能与性能两方面完成各功能模块测试和分析,分析结果表明,NBOS具备了在当前CERNET江苏省网下的网络行为观测功能。