BertSum

收录理由

这份代码对应一篇被广泛引用的抽取式摘要论文。抽取式摘要的特点是模型从原文中挑选已有句子拼成摘要，而不是重新生成新句子。仓库展示了如何在预训练的BERT编码器之上添加序列标注层，逐句打分，再选出得分最高的句子组成摘要。对于想复现或扩展这类工作的研究者来说，仓库里完整的CNN/DailyMail数据预处理流程和ROUGE评估脚本会省去不少功夫。不过它的代码年代较早，依赖Python 3.6和pytorch_pretrained_bert库，想在当前的PyTorch环境里跑起来，恐怕得先做一番移植。但如果你是想学习如何针对句子选择任务微调BERT，这套代码依然是个不错的起点。