逆合成孔径雷达(Inverse synthetic apertureradar,ISAR)由于其全天时、全天候、远作用距离、高分辨率等独特优势,在军事和民用领域中具有广泛的应用价值。在平稳目标、高信噪比等观测环境下,通过现有成熟的成像算法能够得到良好的成像结果。但在实际情况中,雷达可能受限工作模式而无法对目标进行连续观测,产生方位缺损回波。且目标所处的电磁环境愈加复杂,雷达接收的回波受到干扰和噪声的影响,使得回波信干噪比很低,回波数据中还不可避免存在初相校正后存在的残余相位误差,以及雷达系统不稳定和电磁波传播效应引起的相位误差,上述情况都会大大减弱传统成像算法的性能。由于ISAR图像的稀疏特性,可将ISAR高分辨成像问题转化为稀疏信号重构问题。非参数贝叶斯模型具有很强的灵活性,其参数空间能够适应观测数据的变化,因此为解决低信干噪比等复杂观测环境下的高分辨ISAR成像问题提供了新的解决思路。针对复杂环境下的高分辨ISAR成像问题,本文首先建立了ISAR观测的典型信号模型,然后介绍了基于数值优化和参数化贝叶斯的ISAR成像方法,再引入非参数贝叶斯先验,基于贝叶斯框架求解模型,探究基于非参数贝叶斯的ISAR成像方法。论文相关研究工作为提高我国成像雷达在复杂环境下的空间和空中目标探测能力提供理论与技术支撑。论文主要工作如下:第一部分阐述了稀疏ISAR的基本原理,首先推导了高分辨距离像和高分辨方位像的典型信号模型,然后分别介绍了基于正交匹配追踪(Orthogonal Matching Pursuit,OMP)和基于L1范数优化的ISAR成像方法,接着介绍了基于稀疏贝叶斯学习的ISAR成像方法,最后采用单维信号重构实验和实测数据实验来验证算法性能。第二部分针对回波数据存在随机相位误差而导致ISAR像散焦严重等问题,提出两种基于非参数贝叶斯的自聚焦成像方法。首先推导了存在相位误差情况下的回波信号模型,然后引入Beta过程先验构建层级概率模型,交替地利用Gibbs采样方法求解稀疏方位像以及利用最大似然法估计相位误差,提出了基于Beta过程的ISAR自聚焦成像方法。类似的,引入Gamma过程先验,利用最大后验期望最大化(Maximum A Posteriori-Expectation Maximization,MAP-EM)算法求解重构问题,同样利用最大似然法计算相位误差,得到基于Gamma过程的ISAR自聚焦成像方法。最后,仿真实验和实测数据实验验证了提出方法优于其它算法。第三部分针对噪声和干扰分布未知等复杂环境下的高分辨ISAR成像问题,提出一种基于Gamma过程及稳健噪声建模的ISAR高分辨成像方法。利用高斯混合模型(Gaussian Mixture Model,GMM)对噪声建模,并引入Gamma过程先验构造层级概率模型,再利用MAP-EM算法估计各个模型参数。最后,蒙特卡洛实验和实测数据的干扰抑制实验验证了该方法的有效性。