随着计算机技术的快速发展和视频监控技术的不断革新,智能视频监控越来越受到人们的关注。而视频中的异常行为检测是智能视频监控中的一个重要研究方向,具有实时、智能、经济的特点,在公共安全保障方面具有很高的学术价值和广阔的商业前景,其主要工作是自动分析一些人口流动性大、稠密度高的监控场景中的人群行为特征,一旦发生异常行为就立刻发出报警信号,从而提高相关部门的应急响应速度。因此,针对视频中的异常行为检测需要进行深入的研究。目前异常行为检测的研究主要在于目标行为的特征表示与检测模型的构建。本文对异常行为检测模型进行了研究,主要开展了以下工作:1、考虑到在监控视频序列中,由于不同位置的目标距离摄像头远近的差异,会对提取的特征产生影响,从而导致对行为的错误判决,因此对视频序列按位置分块,以此来消除目标距摄像头远近所造成的影响。2、采用比光流鲁棒性更高的3D-SIFT作为目标特征,并将3D-SIFT特征转化为熵属性,分别从时域混乱属性、空域混乱属性及光流属性对目标块局部特征进行描述,最后通过KL距离属性来对行为特征全局信息进行表达,并在此基础上提出了一种基于多属性融合的异常行为检测模型。3、研究了协稀疏表示模型,将目标块特征的协稀疏先验作为正则项引入到异常行为检测模型中,提出了基于协稀疏正则化的异行为件检测算法,利用基于1l范数最小化的协稀疏编码算法重构目标块特征。4、研究了组稀疏表示模型,考虑到特征间的组结构特性,对特征进行分组并将组稀疏表示模型应用到异常行为检测模型中。对训练样本进行聚类,采用PCA方法为每一类样本训练一个字典,利用基于2,1l最小化的组LASSO算法重构目标块特征。为了比较和测试所提模型的有效性,本文在UCSD Ped1数据集、UMN数据集及WEB数据集上进行了局部异常检测与全局异常检测,实验结果表明,本文所提的三种算法在异常行为检测模型方面取得了较好的检测效果,并具有较低的检测时间。