分布式机器学习用于增强模型训练性能,提高模型预测精度。大数据时代,模型训练作业所使用的训练数据集体量庞大,对于模型训练作业的耗时成本以及预测精度均有着较高的要求。Tensorflow系统是实现大规模分布式机器学习模型训练的典型代表,提供了资源配置和超参数设置来调整模型训练作业的计算性能及训练精度。既有Tensorflow系统,资源和批尺寸配置分离设置,用户通常利用历史经验直观地人工设定,或者通过反复尝试找到一组合适的参数组合。而由于用户往往缺乏对训练作业特性及系统的深刻理解,随着模型训练作业的持续运行,人工设置费时、盲目的弊端就会突显。另一方面,实验结果表明在不同的资源配置下,获得最优计算或精度性能的批尺寸设置是不同的。将两者分离配置难以达到在最小化资源配置的情况下,通过优化批尺寸配置,提高模型训练可达到的精度及计算效率。针对上述问题,本文在保障模型训练计算效率和精度要求的前提下,以最小化训练成本和最大化模型精度作为性能优化目标,提出两种资源-批尺寸协同、自动优化配置方法,具体工作如下:1)量化分析了Tensorflow系统中资源配置与批尺寸配置对模型训练计算效率和精度效率的影响。揭示了资源配置与批尺寸配置对模型训练作业性能优化的互补特性,并揭示了在典型模型训练作业中,批尺寸配置与模型训练计算效率及精度效率间存在单调的函数关系。2)提出了基于静态的Tensorflow资源-批尺寸协同优化配置方法。该方法首先依据资源配置和批尺寸配置与模型训练作业计算效率和精度效率间的单调函数关系,选取多维保序回归理论工具,以资源配置规模、输入数据规模和批尺寸设置为特征,构建模型训练负载计算时间预测模型;以批尺寸设置、迭代轮次为特征,构建模型训练负载的精度预测模型。然后,协同使用上述模型,求解以资源成本最小化为目标,保障训练精度和计算效率的资源和批尺寸优化配置解。3)提出了基于分阶段的Tensorflow资源-批尺寸协同配置方法。该方法依据随着模型训练迭代轮次的增加,作业精度收敛速度逐渐放慢且不同阶段对资源-批尺寸参数配置组合具有不同敏感度的观测,提出分阶段的协同优化配置。该方法基于深度强化学习构建分阶段优化配置决策模型,通过在精度收敛较快的前期阶段配置更多的资源和优化的批尺寸设置,加速模型训练的最终收敛,并进一步降低资源成本。4)采用典型神经网络结构及数据集,对上述两类方法进行了性能评测。实验结果表明,对比基于人工经验为主的参数设置进行模型训练作业,基于静态的资源-批尺寸参数设置和基于分阶段的资源-批尺寸参数设置能更好的在完成训练作业的同时节省资源成本。在基于静态的资源-批尺寸参数设置方法中,限定时间和精度后能够最大节约成本35%;在基于分阶段的资源-批尺寸参数设置方法中,限定时间和精度后能够最大节约成本30%;两者相比较在相同限制条件下运行模型训练作业,基于分阶段的资源-批尺寸参数设置方法较之基于静态设置方法能最大节约40%的资源成本。