遥感图像目标检测是遥感图像处理中的核心问题之一,在智慧城市的建设、城市道路的监控以及国防安全的部署等有着重要的研究意义和应用前景。近年来,随着高分辨率卫星和无人机技术的快速发展以及图像空间分辨率的提升,遥感图像与自然图像的视觉差异也不断在缩小,越来越多的深度学习方法被应用于遥感图像目标检测。但是大尺度的高分辨率遥感图像中夹杂着各种复杂背景及小目标物体,这些问题仍然是导致目标检测率低的关键因素。为了解决上述问题,本文基于Mask R-CNN模型展开研究。具体工作及研究成果如下:（1）对Mask R-CNN模型进行微调使其能够适应遥感图像目标检测,并选择Res Net101作为本文的特征提取网络结构。针对遥感图像尺度大、分辨率高的特点,设计了一种新的切分方式对遥感图像进行预处理,保证了遥感图像中的目标不会因遥感图像的过度缩放而损失过多的信息,也有效规避了由于图像尺寸无法和切分尺寸精准匹配而带来的图像损失,并且提升了目标的检测精度。实验表明,切分之后的高分辨率遥感图像中可以检测到更多的目标,在DOTA数据集中取得了良好的检测效果。（2）针对遥感图像中背景复杂且小尺度目标物体检测效果不佳的问题,本文对Mask R-CNN进行改进。在Res Net101网络中引入注意力机制模块,意在图像特征提取时得到更多的检测目标信息并抑制无用的背景信息。同时改进了金字塔网络,增添了一条自下而上的路径,使得高层信息与低层信息融合,从而解决遥感图像因视野范围过大导致的背景复杂以及小目标的问题。实验表明,在加入注意力机制后和改进金字塔后,对于遥感图像中含有复杂背景目标的检测效果得到了提升,同时对于小目标的检测增强。在相同遥感数据集中,相比于原网络在精度等各项指标上均得到了提高。（3）Mask R-CNN不仅可以对目标进行检测也可以对目标进行像素级分割。本文利用Mask R-CNN作为建筑物提取网络,对建筑物进行二进制图像提取,并结合U-Net模型对建筑物进行变化检测。针对建筑物分割图像边缘轮廓平滑问题,对Mask R-CNN进行了参数调整,修改了mask的像素值大小。通过实验证明,在建筑物数据集和变化检测图像中,本文模型的精确度和召回率等各项指标表现良好,调整之后的模型分割精度更高,变化检测效果更好。