随着成像技术在遥感领域的飞速发展,卫星和航空传感器提供了海量的高分辨率遥感影像。现在,目标检测在遥感图像解译中起着至关重要的作用,尤其是高分辨率遥感图像应用在国民经济和军事领域具有重要的意义。本文基于深度学习的遥感图像目标检测技术为研究内容,重点研究了合成孔径雷达(SAR)图像中舰船检测问题以及遥感影像实例分割问题,旨在提升高分辨率遥感图像中目标检测性能,使检测结果更加精准,具体研究内容如下:针对SAR图像中舰船检测问题,本文研究了近岸和近海场景下的高分辨率SAR图像中精确而稳健的舰船检测方法,提出了一种基于高分辨率船舶检测网络(HR-SDNet)的高分辨率SAR图像舰船检测方法。HR-SDNet采用一种改进的高分辨率特征金字塔网络(HRFPN),充分利用高分辨率和低分辨率卷积的特征图来进行SAR图像舰船检测,其不仅可并行连接高至低分辨率子网,还可以保持图像高分辨率。接着,进一步利用非极大值软抑制(Soft-NMS)算法以改善非极大值抑制(NMS)性能,从而提高密集舰船的检测性能。然后,研究了Microsoft Context in Common Objects(COCO)评估指标,它不仅提供了更高质量的评估指标平均精度(AP)以实现更准确的边界框回归,而且还提供了针对小、中和大目标的评估指标,以便准确评估检测方法的检测性能。最后,在SAR舰船检测数据集(SSDD)和TerraSAR-X高分辨率图像上的实验结果表明:在近岸场景中HRFPN相比于FPN提升了近4.3%的检测性能,从而也证明了COCO评价指标对SAR图像舰船检测性能的评估是有效的。针对遥感影像实例分割问题,本文提出了一种基于级联掩码区域卷积神经网络(Cascade Mask R-CNN)的高分辨率遥感影像实例分割方法,称为高质量实例分割网络(HQ-ISNet)。在该方法中,利用高分辨率特征金字塔网络(HRFPN)获取多层特征图,并保持高分辨率特征图以进行遥感图像实例分割。接下来,为了改善掩码分支之间的掩码信息流,提出了一种新的实例分割网络版本2(ISNetV2),进一步提高掩码预测精度。然后,基于SSDD数据集和西北工业大学超高分辨率10类地理空间物体检测数据集(NWPU VHR-10),构建了一个新的、更具挑战性的遥感影像数据集,用于遥感影像实例分割,该数据集可以作为评估高分辨率遥感影像中实例分割算法的基准。最后,在SSDD和NWPU VHR-10数据集进行了广泛的实验分析和比较,从而证明了本文所提方法比高分辨率遥感图像中的现有实例分割算法更准确且更有效。