在当今复杂的社会环境下,随着人口数量的不断增大,社会公共安全问题日益突出,尤其在公共场所下人群状态的监控和管理已经成为许多国家研究的热点问题。传统的视频监控主要依靠人力来实现,由于效率低、响应慢等因素已经无法满足现实生活中的需求,由于人群场景的复杂性、人群相互之间的遮挡以及行人运动的随意性,使得监控下的人群异常行为检测存在许多难题和挑战。本文主要研究了基于光流特性和方向特性的人群异常行为检测算法,研究内容主要有运动前景提取、特征点检测与追踪以及人群异常行为检测,针对监控下的人群异常行为检测问题设计了基于光流特性的方向熵与图像熵相结合的人群异常行为检测算法,论文的主要研究内容如下:(1)在运动前景提取方面,本文提出了一种改进的Vi Be算法,传统的Vi Be算法在前景提取时将本来场景中静止的目标检测为背景,即产生重影区域,影响了检测结果。改进的Vi Be算法使用帧间差分算法与传统Vi Be算法相结合,改善了Vi Be算法中出现的重影与阴影问题。实验结果表明改进的Vi Be算法能够有效抑制重影区域的产生,并能够消除阴影部分,具有良好的检测性能。(2)在特征点检测和跟踪方面,由于人群运动是一个持续的过程,为了避免视频中某一帧由于噪音的干扰而导致光流幅值出现异常,本文创建了一个三维矩阵模型。首先用FAST检测算法提取每帧的特征点,然后使用金字塔光流法对特征点进行追踪,创建的光流灰度图能够表现当前帧人群的运动状态,将灰度图输入到创建的三维矩阵模型中求均值,获取当前帧的运动特征图,得以体现人群运动量的大小。(3)在人群异常检测方面,本文提出了一种基于光流和方向的人群异常行为检测算法框架,将特征图的光流幅值与运动方向熵相结合检测人群中的异常行为,本文将运动程度较大并且无序运动状态下的人群运动看作异常行为,使用PETS 2009数据集和UMN数据集对本文算法进行了实验,实验结果表明,该算法具有良好的检测结果,与其他方法相比,本文所提出的算法具有较好的检测性能。(4)在MATLAB 2017b平台下设计和开发了人群异常行为检测软件,该检测软件主要有登录界面、注册界面、检测方式选择界面、结果显示界面以及报警记录界面。并使用UMN数据集对本软件进行了测试,测试结果表明,本软件能够实时检测人群异常行为,并对异常行为发出警告信息,在保证实时性的基础上又具有良好的性能,能够适用于室内、室外等场景。