动物行为是动物表达心理和生理的肢体语言,也是动物自身综合机能的体现。小鼠是典型的模式动物,旷场中小鼠不同行为的分析广泛应用于衡量生物学、神经科学、药理学和遗传学等领域的实验效果。现有的小鼠行为分析方法存在费时、泛化能力差等问题。设计与实现小鼠旷场实验行为分析系统对减轻相关研究者的工作负担具有重要意义。本文对小鼠旷场实验中的行为模式进行了识别研究,设计并实现了小鼠行为分析系统。设计了基于卷积神经网络的小鼠关键点检测模型和基于ConvLSTM网络的小鼠行为识别模型,实现了相关行为学指标的计算,并应用到小鼠急性应激学实验中。本文的主要工作与结果如下:（1）设计了小鼠行为分析系统的整体框架。分析了小鼠旷场实验中行为分析的具体需求,从实验箱、摄像头和PC机进行了选型,设计了小鼠行为识别软件系统的基本框架,并使用Py Qt5、Tensor Flow、Keras、Open CV、Numpy和Matplotlib等工具包实现了图形用户界面展示、图像采集、数据处理和结果显示功能,确定了系统的算法流程。（2）设计了基于卷积神经网络的小鼠关键点检测模型,实现了多个影响因素五种典型行为模式的关键点检测。深度融合空洞卷积和转置卷积设计了小鼠关键点检测模型,并结合热力图与坐标偏移精准预测小鼠关键点坐标。建立了小鼠关键点检测数据集,比较了不同膨胀率下的实验结果,确定了最佳的空洞卷积膨胀率等模型参数。模型对鼻尖、左耳、右耳、尾根关键点检测的平均PCK指标达到了91%,高于CPM、Stacked Hourglass和Deep Lab Cut模型的性能。使用卡尔曼滤波进一步处理了关键点轨迹,实现了小鼠速度、角速度、路程和轨迹等运动参数的计算。（3）设计了基于ConvLSTM网络的小鼠行为识别模型,实现了小鼠直走、静止、修饰、直立、转身五种基本行为的准确识别。设计了结合关键点检测、ConvLSTM网络及全卷积网络的小鼠行为识别模型。建立了小鼠行为识别数据集,比较了不同时间窗口下的行为识别结果,确定了最佳的时间窗口参数。模型对直走、静止、修饰、直立、转身五种基本行为的平均识别准确率达到了94.27%,高于LSTM、Bi-LSTM和3DCNN模型的性能。进一步使用众值滤波修正了错误的分类结果,实现了行为发生次数和行为持续时间等行为参数的测量。（4）实现了小鼠行为分析系统,应用于了小鼠急性应激实验。选择了小鼠行为分析系统的软硬件参数,实现了系统的行为分析功能。采用足底电击法构建了小鼠急性应激模型,使用小鼠行为分析系统测量了急性应激前后小鼠行为的差异性。实验结果表明,小鼠在急性应激后自主活动减弱,更趋向于外周格活动,焦虑程度和紧张度有所增加。实验结果与现有文献结果保持一致,相比于传统行为分析方法,本文小鼠行为分析系统提供了全面和细致的行为学指标。