基于视频智能分析的异物入侵检测是铁路周界安全监测与防范领域的重要技术手段,对保障铁路行车安全具有重要意义。近年来,随着深度学习技术的快速发展,基于卷积神经网络等深度神经网络的视频分析算法极大提升了检测性能,但由于深度神经网络存在复杂度高、训练耗时长、计算和存储量大、对硬件需求高等问题,无法在具有大量监控相机的铁路周界安防系统中广泛应用。为此,论文研究卷积神经网络剪枝、压缩训练、网络架构自动优化等系列问题,探索深度神经网络轻量化方法,使铁路视频智能检测算法更好满足硬件资源需求少、实时好、可靠性高等实际应用需求。论文首先针对现有神经网络冗余辨识准则无法准确判断冗余卷积核的问题,提出基于特征图范数的冗余辨识准则,通过计算特征图范数来评估卷积核的重要性。为了进一步提升对各层冗余卷积核的辨识度,提出基于层级特征图范数的辨识准则并对卷积层进行递归剪枝,实现在逐步压缩模型的同时,降低模型的精度损失。在公共数据集CIFAR、SVHN和Image Net上的对比实验结果表明,相较于现有基于卷积核范数的冗余辨识准则,所提算法具备更加精准辨识冗余卷积核的能力,并且在相同的压缩量级下能够获得更高的识别精度,为后续的网络结构化稀疏与快速压缩奠定良好的基础。针对现有剪枝压缩算法普遍需要多次递归剪枝-再训练的问题,论文提出基于结构化特征稀疏训练的卷积神经网络快速压缩算法,通过在常规训练损失函数上增添特征结构化范数正则项,促使特征通道稀疏化和层稀疏化,实现在模型精度稳定条件下网络模型的单步剪枝。与其他现有的剪枝算法不同,结构化特征稀疏训练避免了多轮的递归剪枝-再训练步骤,提升了模型压缩训练的效率,有利于快速完成铁路沿线每个监控相机深度神经网络的独立压缩与优化。在多个公共分类识别数据集上的实验结果表明,所提算法可以增强剩余特征通道的显著性,降低了网络的压缩训练耗时且性能优于现有的剪枝方法。针对现有剪枝压缩算法受到预训练大网络架构的宽度限制、剪枝超参数需人工干预等问题,提出基于具有特征稀疏性学习和相似性度量的动态缩放通道搜索算法。该算法通过增加网络消耗成本、特征稀疏约束和相似性度量三个目标进行网络优化,实现在指定资源条件下对网络架构的端到端搜索。在多个公共分类识别数据集上的实验结果表明,相比于现有轻量化网络和其它压缩算法,所提算法搜索的网络结构能够在占用存储空间更小的条件下获得更高的识别准确度,为后续的轻量化检测算法奠定基础。最后针对铁路场景的多尺度目标快速可靠识别需求,论文提出了包含动态感受野运算与可衡量式密集残差连接的网络结构搜索空间,实现了网络多尺度特征处理和可衡量式的跨层特征信息传递。运用论文提出的搜索算法获取了高效轻量网络结构,以此作为目标检测器的基础骨干网络,实现了轻量化的目标检测算法。在高速铁路异物入侵快速识别应用中,利用多相机混合场景训练与单相机场景迁移训练,所提出的轻量化检测算法能够在占用较低硬件资源的同时,实现更高的识别检测性能。与现有技术相比,论文提出的系列网络轻量化算法可以大幅度压缩和加速神经网络模型,使得深度神经网络模型能够应用于高铁周界入侵的在线识别监测,降低了智能安防系统应用成本,目前已经在多个高速铁路上得到实际应用。