大数据背景下,机器学习在许多领域大放异彩,作为其重要分支,人工神经网络主要被应用于监督学习,但现实中数据的标签很难得到,于是衍生出了利用部分无标签样本的半监督学习。随着数字设备和网络技术的发展,数据呈现爆炸式增长,导致很多数据必须在通信网络中分散存储,传统的集中式学习方法需要将这些数据传输之后集中处理,但一些场景中数据由于本身特殊性或者受到通信网络的限制而无法被传输,从而导致集中式学习方法无法使用。针对这些场景,本文根据不同的应用需求提出了相应的分布学习算法。本文的主要创新性工作如下:研究了分布式学习问题,提出了基于零梯度和方法的分布式合作学习算法,旨在达到与集中式学习相同的效果,同时避免因交流原始数据而造成的隐私泄露。考虑到分布式数据中存在无标签样本的情形,本文引入了流形正则化方法,在分布式合作学习算法的基础上提出了基于流形正则化的分布式半监督学习算法。通过合理构造Lyapunov函数,证明了两种算法在收敛的同时达到了指数级收敛速度。研究了时变通信网络中分布式半监督学习问题,提出了基于时变通信网络与流形正则化的分布式半监督学习算法,通信网络“合作连通”的条件保证了该算法的收敛性。为了能在计算机上运行该连续时间算法,本文提出了对应的四阶龙格-库塔迭代算法用于仿真实验。考虑到分布式半监督学习算法中存在冗余通信的问题,提出了基于事件驱动通信机制和流形正则化的分布式半监督学习算法。通过设计适当的驱动函数为通信网络中每个节点设置通信条件,各节点只有满足驱动条件之后才会与其邻居节点交流信息,从而减少节点之间的通信次数。考虑到按照属性分割并存储在通信网络中的分布式特征,提出了基于交替方向乘子法和流形正则化的分布式特征半监督学习算法。大数据既指数据量比较大的数据,也指维数比较高的数据,但是现有的分布式半监督学习算法所考虑的都是按照样本分割存储的大规模数据,除了本文之外还没有成果关注按属性分割并且分布式存储的高维数据。本文提出的基于流形正则化的分布式半监督学习算法,针对不同的分布式数据、通信网络和通信方式,每个算法的收敛性都得到了严格的理论证明,大量的数值仿真实验进一步验证了这些算法的有效性。