随着信息技术的飞速发展,在经济学、生物信息学、社会科学和医学等诸多领域中对海量、高维数据的采集成为可能.由于这些数据量级过大,如何对其进行存储、整理并开展进一步的数据分析均面临着巨大的挑战.数据存储通常采用分布式方式,通过将数据集按某种规则分割,或者按数据流的方式存储于不同的机器,实现数据量过大时的存储问题.一个自然的问题是,现有的机器学习算法是否适用于分布式存储的数据.近年来,基于稀疏先验的正则化方法是对高维数据进行特征提取和变量选择的主要研究工具之一,但是这类方法往往都基于单机存储和处理.因此,如何开展针对分布式存储的数据分析是目前机器学习和统计学的主要工作之一.本文推广现有的稀疏正则化方法,使其适合于分析处理分布式存储数据.本文各章内容安排如下:第一章中简单叙述研究分布式非凸正则化方法的意义以及相关研究背景.第二章中提出分布式SCAD方法.基于ADMM算法提出分布式SCAD算法,并证明了算法的收敛性.实验表明,分布式SCAD算法变量选择的结果与非分布式算法变量选择的结果相同,并且能够有效的处理分布式存储的数据.第三章中提出分布式L1/2正则化方法,同样基于ADMM算法给出分布式L1/2正则化算法,并证明了算法的收敛性.注意到L1/2正则子在原点导数的特点,我们提出约束邻近正则性来解决收敛性中存在的相关问题.最后,通过与第二章类似的三个实验,我们验证了本章所提算法的有效性,以及对比分布式SCAD方法的优势所在.