目标检测是计算机视觉领域最基本的问题,其核心任务是对任意一幅给定的图像,采用某种目标识别算法和搜索策略,确定特定目标在图像中的位置和大小。尽管该领域已取得丰硕的研究成果,但在复杂应用场景中,目标通常会受光照变化、视角、姿态、部分遮挡等因素影响而引起较大的外观变化,最终导致检测算法性能下降。然而,随着智能监控、智能交通、图像检索等应用需求的增长,人们对能适应各种复杂应用场景的目标检测方法的需求日益增长。本文工作以一种Boosting算法加强的随机森林GBRF(Gradient Boosting Random Forests)为基础,针对不同场景下待检测目标的自身特点,将GBRF与不同图像表达方式结合,构建满足应用需求的目标识别模型,并最终利用一种搜索方法完成检测过程。研究分别从目标分类模型、高层图像表达、快速目标检测和多视角目标检测四个方面展开,主要贡献总结如下:(1)基于Boosting算法加强的随机森林模型GBRF,提出了利用GBRF构建能适应外观变化目标模型的一般方法,并应用到人脸检测任务上。首先,GBRF目标模型以树分类方法为基础,结合不同图像特征对样本进行逐层划分,并利用树的不同决策分支对外观变化目标分别建模;然后,为了提高模型泛化能力和识别精度,基于集成学习理论,先利用Bagging算法组合多棵树,再利用Boosting算法组合森林的不同层;最后,针对人脸检测任务,给出了一种“GBRF+Haar矩形特征”的人脸检测方法。实验表明,该方法对人脸等小尺度、局部变化可控的目标有较好检测结果,但对于复杂场景中尺度大、外观变化大的目标还需依赖更强大的图像特征和目标表达方法。(2)提出一种基于CNN(Convolutional Neural Network)高层特征的图像局部块描述方法,并将其与GBRF相结合,以构建目标检测模型。首先,通过研究CNN高层特征与图像局部区域的对应关系,提出了一种CNN局部图像块描述子;然后,结合CNN局部图像块特征表达形式,提出了一种基于图像块多维特征的树节点样本划分方法;最后,通过多棵树逐层选择并组合最有区分度的局部图像块构建GBRF目标识别模型。在多个目标检测任务集上比较实验的结果表明,CNN局部图像块特征对光照、局部形变有很好容忍能力,基于图像块多维特征的树节点分裂函数有更强的分类能力,所提方法相比已有算法也展现了更好的检测性能。(3)基于局部DOT(Dominant Orientation Template)模板的快速计算特性,利用GBRF逐层选择和组合不同位置、大小自适应的局部模板,以构建了一种快速的行人检测方法。首先,基于二进制编码形式给出DOT模板的快速计算方法,并利用SSE指令进行硬件加速;然后,定义了一种位置、大小自适应的局部DOT模板生成方法,并利用生成的局部模板,设计了一种基于DOT模板匹配的树节点样本划分方法;最后,利用定义的局部模板集和节点划分方法,给出了基于局部DOT模板和GBRF的目标模型生成方法。检测过程中,在基于滑动窗口法确定目标位置时,提出利用一种级联检测架构快速排除大量的背景窗口。实验结果表明,所提方法在不损失检测精度前提下提高了检测效率,同时,局部DOT模板对部分遮挡有较好抵抗能力。(4)改进传统霍夫投票目标检测框架,提出了一种适用于多视角目标的加权霍夫投票检测方法,并在多视角车辆检测上验证所提算法有效性。首先,利用GBRF对包含外观和位置信息的图像块集进行聚类,并提出了一种紧致性视觉单词的描述方法,该描述方法不仅有利于表达投票检测过程,还有效地减少了冗余、混乱的投票单元;其次,利用得到的视觉单词,提出了多视角目标的加权投票检测框架,视觉单词在各视角子类间共享,但对不同视角下目标中心有不同投票组合权重;最后,在验证集上,提出一种基于无监督视角子类划分和多类别线性SVM的投票组合权重训练方法。实验结果表明,所提方法能有效处理目标的视角变化,对目标中心的投票分值也更为集中。