近年来，智能视频监控技术作为一个新的应用领域逐渐成为计算机视觉中研究的热点，它以传统的视频监控为基础，利用计算机视觉，图像处理，模式识别等相关技术对监控场景中的目标与行为进行检测，并对感兴趣的目标或行为进行分析和描述，它改变了传统视频监控单纯依靠人工“看”的特点，实现真正意义上的智能监控。随着社会的发展，人群异常行为识别作为智能视频监控中一种现实迫切需求而产生的领域正受到越来越多的关注。本文在详细查阅并分析了人群异常行为识别相关资料的基础上，对其涉及的一些相关的具体问题如人群运动区域检测、人群行为特征的提取、人群行为分类识别等进行了较为深入的研究，主要研究内容包括：1.在人群运动区域检测方面，介绍了常用的运动区域检测算法，包括背景减除法和帧间差分法。并基于上述两种算法提出了一种改进的人群运动区域检测方法。在帧间差分法提取过程中，加入了多方向边缘扫描来提取可靠的前景；在混合高斯建模的背景差分法中利用HSV颜色空间差判别公式，判定前景区域，最后通过设定权值将二者累加，对人群运动区域进行准确检测。保证了后续研究工作的可靠性。2.研究并设计了一种特征提取及描述策略，将运动区域像素点计算得到的速度及方向信息应用于时空立方体中，使其适用于运动随意性较强的场景中的行为特征提取。将时空立方体特征与具有竞争机制的神经网络模型结合，提出了完整的人群异常行为识别方法，实验证实本方法在识别打架、恐慌逃散、跌倒踩踏等常见的人群异常行为时都取得了较好的效果。3.传统的光流算法在建立相邻帧像素的对应关系时，只是进行简单的灰度一致性假设，当光照发生变化时，即使没发生运动，光流仍然存在，并且在灰度等级变化不明显的区域，目标运动很难被检测到，针对这一问题本文提出了一种基于SIFT Flow技术的特征提取算法。在建立相邻帧像素对应关系时，利用SIFT描述子代替简单的灰度值来获得运动区域更加准确的运动及方向信息，最后将得到的信息通过运动方向直方图来进行描述。将运动方向直方图对隐马尔可夫模型（Hidden Markov Models, HMM）进行训练，完成人群异常行为的识别。实验结果表明本方法能够有效的识别出视频场景中的异常行为。4.针对人群行为识别中行为特征维数高，数据量大以及特征局部流形结构不稳定的问题，受启于稀疏表示和流形学习方法，本文提出了一种基于局部线性嵌入（Locally linear embedding，LLE）稀疏表示的人群异常行为检测方法。通过在稀疏分类模型中加入一个LLE正则项，来解决局部流形结构不稳定的问题。基于局部线性嵌入的正则项能够有效的保留测试样本的局部流形结构，提高样本的判别能力。实验结果表明局部线性嵌入稀疏表示算法能够有效的提高样本的判别能力并在人群行为识别中取得较好的实验效果。