任务旨在从文档中生成一段简短的、连贯的并保留源文本关键信息的自然语言摘要。不同于传统的抽取式文本摘要,生成式文本摘要是对源文本的内容加以抽象化的理解,然后再重新生成一段摘要文本。目前主流的方法都是将神经网络模型应用到生成式文本摘要中,这些方法一般使用序列到序列的框架来构建文本摘要模型,且这些模型通常都引入了一些优化组件来解决生成式文本摘要的袋外词、重复词等问题,例如使用指针生成器结构,覆盖率机制和拷贝机制等。这些优化组件实际上都是在模拟人类进行总结文本摘要的过程,从而去优化模型的摘要生成效果。本文提出的生成式文本摘要模型不同于主流基于序列到序列的模型,它是直接将文本摘要任务看作是一种语言建模问题。论文模型将输入和输出文本串连到一个联合序列中,然后使用一个公共的Transformer作为编码器对这个联合序列进行编码,最终形成的是一个语言模型来进行文本摘要任务。通过这种方法,还可以将基于Transformer的预训练语言模型来初始化文本摘要模型的参数,从而使得文本摘要模型能够利用大规模语料训练出来的语言模型的强大文本表示能力。此外,模型还使用了两阶段的训练任务,包括微调训练和终端任务训练。微调训练是使用文本摘要任务相关的语料库来对预训练语言模型进行训练,而终端任务训练则是针对最终的文本摘要模型进行训练,使模型能够预测新数据并生成摘要。两阶段训练的结合使得预训练语言模型能够更加适应文本摘要任务,对于文本摘要模型来说也可以学习到更深层的文本语义信息。本文的模型使用大型中文文本摘要数据集LCSTS来进行模型训练和测试,通过在此数据集上进行实验和评测,得出的ROUGE评测结果表明模型效果达到了最前沿水平,且生成的摘要结果所包含主题信息的丰富程度非常高,摘要语句也有非常好的连贯性。