单细胞RNA测序（scRNA-Seq）技术的进步使研究人员能够分析基因组范围内的转录谱,并以单个细胞的分辨率解决生物学问题。其中聚类是scRNA-Seq数据分析的一个重要步骤,其主要作用是用来找寻细胞类型的数量以及揭示每种细胞类型的转录组学特征,聚类是细胞异质性以及细胞分化等研究的关键问题。但由于近年来scRNA-Seq技术的飞速发展,单细胞数据呈指数增长,且现有的scRNA-Seq聚类方法存在着数据的高丢失率和维数灾难,因此开发能够满足单细胞数据特性的聚类方法具有重要的意义。本文基于机器学习对单细胞RNA-Seq聚类方法进行研究,研究内容如下:1.我们提出一种新的基于深度学习自编码网络的聚类模型sc BKAP。首先,使用基因过滤器剔除在大于95%的细胞中都不表达的基因。其次,使用自编码网络对筛选后的scRNA-Seq数据集进行重构,得到重构后的表达矩阵,降低原始数据中丢失值对整体模型精度的影响。再次,使用M3drop算法对重构后的数据进行特征选择,运用PHATE算法提取数据中的主要信息以及寻找原始高维数据的低维表达,达到数据降维的目的。最后,利用二分K均值算法对聚类细胞以获得结果,并与原始数据的真实细胞标签进行对比来评价模型的性能。在19个真实的scRNA-Seq数据集和2个模拟的数据集上测试了sc BKAP的性能,并与9种先进的聚类方法进行了比较,根据四种评价指标的结果表明,sc BKAP模型在聚类结果上优于其它方法。2.我们提出一种新的基于生成对抗网络的聚类模型ISGAN。首先,ISGAN对单细胞RNA-Seq数据集进行过滤筛选,目的是删除数据中在大于95%的细胞中表达值均为0的基因。其次,使用引入了Wasserstein距离的生成对抗网络对筛选后的scRNA-Seq数据进行插补并得到插补后的表达矩阵,WGAN的目的是通过插补来消除数据中dropout值的影响。再次,使用PCA降维算法对插补后的数据进行预降维,目的是提取插补数据中的主成分,为主要降维算法的运行提供便利。而后,使用ISOMAP算法进行降维以及去噪。最后,使用改进的自适应谱聚类算法对降维后的数据进行细胞聚类,得到最终的聚类结果,并于真实的细胞标签进行对比来评价模型的聚类性能。我们将ISGAN与其它9种先进的聚类方法在19个真实单细胞RNASeq数据集以及2个模拟的数据集上运行以得到聚类结果并进行对比,根据四种聚类评价指标（NMI,ARI,HOM与AMI）的结果表明,ISGAN模型拥有最好的聚类性能。