图模型能清楚地表示变量间的结构关系,被广泛的应用于机器学习、因果推断、生物信息学等各个领域。图模型中的贝叶斯网是一个有向无环的模型,能够更直观的描述变量间的依赖关系,特别是在其中引入潜变量后,不仅可表示因果推断中不可观测的混杂,而且可简化模型降低模型的复杂度,还可以提高计算的效率。然而,如何确定潜变量的个数、潜变量取值空间以及变量之间结构依赖关系,获得与数据拟合最好的模型,是一个非常具有挑战性的问题。这一问题在机器学习领域称为结构学习,本质上是统计学中的模型选择问题。本文针对含潜变量的贝叶斯网的结构学习问题,给出了基于惩罚似然的方法。这里的惩罚包括两项。一是对于可观测变量间的系数进行₁l范数惩罚,以获得稀疏的模型;二是采用核范数（本文中为矩阵的迹）惩罚,以控制潜变量的个数。我们采用交替凸搜索方法,结合ADMM算法和坐标轴下降法,最小化惩罚似然,从而获得观测变量间的结构关系和潜变量个数的估计。我们给出了详细推导过程,编写了R程序,与当前主流的PC算法、RFCI算法、Adaptive Lasso惩罚似然方法、低秩稀疏（lrps）方法、低秩稀疏+贪婪搜索（lrps+ges）方法进行了比较。通过大量的模拟,我们发现当样本量大于200时,我们的方法有较好的表现。