随着摄像头监控的普及,视频异常检测有着越来越重要的价值和意义,其主流方法之一是从原始视频数据中提取出具有语义信息的特征并进行相关行为分析。目前视频特征生成方法主要有人工设计特征描述符（低级特征）以及深度学习生成特征两种方式,针对两种不同的方式,已有许多相关研究工作提出并开展。目前人工设计特征由于对于运动描述能力的不足,往往不能很好地描述视频复杂场景下的运动,因而限制了这类方法的表现。基于深度学习生成特征的方法,近年来应用广泛并取得了不错的效果,但是由于深度学习网络依赖于复杂的网络结构,其模型的可解释性依然存在着缺陷。同时由于网络结构需要手工设计并调整参数,人工的方式已难以适应如今复杂的网络结构,检测的效果也无法保证。遗传编程（Genetic Programming,GP）方法作为进化计算方法之一,近年来在大规模优化以及图像分析等领域有着广泛的应用并有并行性好、可解释性强等优势。本论文主要基于遗传编程方法,利用遗传编程的优势,解决视频异常检测中存在的问题。围绕视频异常检测中传统人工设计特征描述能力不足、深度学习方法可解释性差、深度学习网络结构和参数需要手工设计调整等问题,本文基于遗传编程提出了相关算法和改进方案,主要工作如下:提出了基于加权多维光流的遗传编程视频异常检测方法:在视频异常检测中,连续的运动信息至关重要。针对传统人工设计的特征描述能力不足以及相关参数难以手工设置的问题,提出了基于光流直方图改进的新特征加权多维光流,并在此基础上,利用遗传编程随机性的特点进行特征选择并对相关参数进行优化,提出了一种基于加权多维光流特征的遗传编程方法。通过在UMN等数据集上的实验,实验结果表明该特征描述符相比于传统人工特征描述符在检测精度上提高了5-10%,该方法的检测精度在主流异常检测方法中也达到了较高水平。提出了基于遗传编程的进化深度学习视频异常检测方法:针对深度学习方法可解释性差的问题,提出了一种基于遗传编程的进化深度学习方法。首先,通过实验发现,空间结构信息对于检测异常起着至关重要的作用。本文进一步改进了传统特征描述符,提出了加权空间局限光流直方图方法进一步改善传统人工设计特征的描述能力。并在此基础上,结合了深度学习的思想,发挥卷积和池化方法提取底层边缘特征并抽象出高级特征的优势,并利用遗传编程克服神经网络需要手工构建结构以及解释性不足等方面的局限性,提出了基于遗传编程的进化深度学习方法。通过在UCSD以及Avenue数据集上的实验,结果表明该方法的检测精度达到了与主流深度学习方法相同的水平,同时自动标注出了卷积核对图像感兴趣的区域并指出了较为重要的运动特征种类,与实际异常情况相符,也解释了自动提取特征以及进化学习的过程。提出了基于笛卡尔遗传编程设计CNN的视频异常检测方法:针对深度学习网络结构和参数需要手工设计调整的问题,提出了一种基于笛卡尔遗传编程自动设计CNN的视频异常检测方法。由于深度学习设计神经网络的结构和参数需要大量的实验和试错,因而本文利用笛卡尔遗传编程对CNN的结构和连接进行了优化,自动设计出较优的CNN网络。在异常检测的过程中,结合了光流信息进行异常判断,解决了网络结构需要手工设计的问题,同时通过在Subway等数据集上的实验,实验结果表明该方法的检测精度高于主流的深度学习方法。