病理切片图像分析中很重要的一个步骤是要准确地把图像里面的所有细胞核分割出来。和需要手工提取特征的传统方法相比,卷积神经网络可以自动地学习到能够表达细胞核的特征,有利于加速病理切片图像的诊断。但是因为细胞核的种类千差万别,颜色、形态各异,同时也存在细胞核边界模糊,细胞核之间重叠遮挡的情况,神经网络需要增加特殊的后处理才能比较好地处理这些细胞。另外一方面,利用深度学习进行病理切片细胞核分割除了要应对处理任务种类和难度变化的多样性之外,还要面对的一个难题是数据的稀缺性。在医学影像处理领域,比较难获得大规模且平衡的数据用于神经网络训练。近年来,语义分割、实例分割在如街景识别等多种目标任务中取得了优异的成绩。受其启发,本文主要研究基于深度学习的病理切片图像细胞核分割方法,具体探讨语义分割、实例分割在细胞核分割方面的应用,同时针对病理切片图像数据少的问题提出使用自监督学习的方法提升模型的性能。提出的对应解决方案总结如下:1)利用常见的语义分割方法,如全卷积网络（Fully Convolutional Network,FCN）和U型网络（U-Net）,进行细胞核分割。设计不同结构的特征提取模块,比较感受野大小不同的卷积核对网络分割性能的影响,在没有使用任何外部数据的情况下在Mo Nu Seg2018数据集上分割准确率达到80.53%。2)针对训练数据少的问题采用自监督学习的方法,从数据本身获取信息,对细胞核的分割问题进行研究。提出了基于尺度三元组学习和统计排序的框架,让网络学习关于细胞核大小和细胞核数量的特征表示,在Mo Nu Seg 2018和MSC数据集上取得了不错的分割效果。3)利用实例分割方法Mask R-CNN进行细胞核分割,使用了结构保持颜色标准化对图像颜色进行标准化,提取结构信息更明显的H染色通道图像,结合不同的后处理方法使分割性能得到提升,在MICCAI 2018 CPM细胞分割的数据上取得了不错的结果。