BERT4doc-Classification

收录理由

这份代码对应论文《How to Fine-Tune BERT for Text Classification?》，是理解该论文微调思路最直接的实践参考。如果你想让预训练BERT在分类任务上表现更好，仓库里给出了具体可操作的选择：用哪些层做特征、如何池化隐藏状态、长文档怎么截头去尾，以及按层递减学习率怎么设。它还演示了先在领域语料上继续预训练再微调的流程，对处理那些和通用网络文本差异很大的内容尤其有用。实验在IMDB、AG News等标准基准上做了记录，可以当作比较不同微调策略的参照。需要注意的是，代码锁定了较老的TensorFlow和PyTorch版本，直接跑可能不行，得自己改造成现代环境。