目标检测是计算机视觉领域中最基本且最具挑战性的问题之一,其目的是为了快速定位图像中某类或某些类的对象实例。随着遥感技术和探测器的不断发展,遥感目标检测也在城市交通管理、军事侦察等方面有着越来越广泛的应用。相较于SAR图像,光学遥感图像因其目标易识别、细节特征丰富、抗涂层干扰能力强等优点被广泛应用于目标定位与识别任务中。与此同时,受益于深度学习目标检测网络的飞速进步,目标检测器的性能得到了极大的提升。然而,在大型光学遥感图像中,由于小目标的纹理差异大、对比度低、方向任意密集分布和超细微等特性,使得检测小目标仍然具有挑战性。为了解决这些问题,本文重点研究了不同层级特征及旋转边界框对小目标检测性能的影响,通过对齐和融合卷积神经网络中浅层空间特征与深层语义特征来提升模型对小目标的识别能力,并在此基础上,引入旋转边界框缓解密集分布且方向任意的小目标漏检问题以及目标与候选区域特征不匹配的问题,从而提升光学遥感图像中小目标的检测性能,主要的工作总结如下:1、提出了一种基于特征偏移量的特征对齐策略,该方法通过改进骨干网络并引入特征对齐模块,来解决FPN因最近邻上采样而造成的相邻层级间特征未对齐的问题,利用核大小为3×3的卷积层预测特征偏移量,从而对齐两个相邻层级的特征图、匹配不同层级的语义与空间特征,该方法能在有效且无偏移地传递小目标深层语义信息的同时,抑制背景区域噪声,提升检测器对小目标的检测性能。2、设计了一种新的跃层连接策略,该方法将深层特征图通过跃层连接的方式与浅层特征图融合,使小目标的深层语义特征更有效地传递到浅层特征图中,并在深层特征图上添加权重系数来控制深层特征图传递给浅层特征图的信息,从而提升浅层特征图对小目标特征的学习能力,进一步增强检测器对小目标的识别能力。3、在此基础上,针对遥感图像中小目标任意方向且有可能密集分布的特性,引入旋转边界框区分小目标间的界限,利用级联的两阶段R-CNN网络和带约束的旋转候选框回归策略,降低旋转候选框的回归难度、提取旋转不变的区域特征并消除区域特征与目标之间的不匹配。为了更加有效地利用该网络的上述特性,引入通道注意力机制,抑制与小目标无关的背景噪声并突出小目标的特征,实验结果表明该方法能够在有效利用小目标特征的同时,降低复杂背景下任意方向密集分布的小目标的漏检率。