视觉目标跟踪是计算机视觉领域中最为重要的研究课题之一,在视频监控、自动驾驶、智能交通、人机交互以及军事侦察等领域都有着非常广泛的应用价值。它要处理的问题是在视频序列中连续地估计出感兴趣物体的位置和尺度信息,从而服务于高层次的视频分析与理解。尽管目标跟踪已经取得了长足的进展,但是复杂多变的实际场景中存在着光照变化、遮挡、快速运动、形变、尺度变化以及背景杂波等一系列问题,这些动态不确定因素使得实现高精度且鲁棒的视觉跟踪仍然是一个巨大的挑战。近年来,随着深度学习的快速发展,其在目标跟踪领域也得到了很好的应用和发展。同时得益于海量的视频数据和计算机软硬件运算能力的不断提高,使得数据驱动的深度学习跟踪算法展现了显著的性能优势。因此,本论文在详细分析现有基于深度学习目标跟踪理论及方法的基础上,从有效的表征学习、鲁棒的相似度匹配、准确的目标框预测以及高效的运动估计四个角度进行深入研究,主要研究内容和创新如下:1)针对深度学习跟踪模型中浅层特征表示能力不足而深层特征计算开销大这一问题,提出了一种视觉注意力引导的残差学习目标跟踪算法（CSART）。该方法首先研究不同主干网络提取的视觉特征对于跟踪精度和效率的影响。其次使用自注意力模块分别在空间和通道维度捕获基特征的长距离语义依赖关系,从而获得两个富含上下文信息的注意力特征图。然后,利用残差学习的思想将其与原始特征进行自适应融合,以更有效地学习前景和背景的判别性表示。此外,还设计了一个多任务损失函数来端到端地联合优化整个表观模型,同时也缓解样本的不平衡问题。大量的实验结果表明,所提算法在基本没有降低跟踪速度的情况下,显著提高了原始模型的精准度和鲁棒性。2)基于孪生网络的跟踪算法一般采用简单的互相关操作来执行模板特征与搜索区域特征之间的相似度匹配,这种固定且线性的度量方法难以处理混乱的背景噪声问题,限制了模型的判别力。本文提出了一种基于孪生关系网络（Siamese Relation Networks）的鲁棒跟踪框架,利用关系网络建模了一种非线性可学习的相似性函数。它可以很好地集成到现有的孪生网络跟踪模型中,从而实现了由粗到细的两阶段匹配过程。推理期间,提出了一种基于双模板匹配的在线跟踪策略,保持初始帧模板,并利用高置信度跟踪结果的反馈来获取和更新动态模板,进一步提高了模型的鲁棒性和在线自适应性。实验结果表明,该跟踪算法能够很好地应对目标外观变化、背景噪声等难题。3)针对现有无锚框跟踪器分类与回归任务的不一致性以及预测框不够准确问题,提出了一种具有不确定性感知的孪生网络跟踪算法（UAST）。该方法主要探讨物体边界框的不确定性和模糊性表示,首先利用回归向量直接建模目标框四个偏移量的离散概率分布,并通过计算各个分布的积分以捕获更为灵活且信息丰富的边界框表示。其次基于预测值近邻的概率可以估计出每个边界的确定性分数,从而实现跟踪的不确定性估计。同时,考虑到不确定性与回归精度的高度相关性,构建了一个联合的分类-定位质量表示头,解决了分类与回归任务的不对齐问题,并开发动态标签分配实现了高质量的目标跟踪。在五个公开视频跟踪数据集上的测评结果表明,UAST算法优于所对比的多个先进的跟踪模型,并且该不确定性跟踪能够更可靠地用于实际视觉系统。4)考虑到目前基于分类的深度跟踪器搜索效率低下且网络参数在线更新耗时长等局限性,提出了一种基于分层深度强化学习的视觉目标跟踪模型。该工作重新定义了目标跟踪的问题建模,即研究如何教会机器模仿人类的行为范式（若干次动态迭代搜索）来执行跟踪任务。具体地,构建了特征观测网络,策略网络和演员评论家网络,以及用于建模物体运动时序信息的长短时记忆模块,并遵循马尔科夫决策过程通过深度强化学习算法学习有关跟踪模式和运动估计的层次化决策。为提高在线跟踪效率,还引入专家跟踪器来引导模型的更新和重新初始化过程。广泛的实验结果表明,提出的模型在多种挑战属性下获得了较好的跟踪结果,并且在鲁棒性与准确率方面表现良好。