K-BERT

收录理由

K-BERT 是 AAAI 2020 论文的官方参考实现，核心思路是让 BERT 模型在阅读文本的同时，也能把知识图谱中的结构化信息当作额外的输入线索。项目把 CN-DBpedia、HowNet 等图谱里的三元组转换成特殊标记，拼接在原始句子后面，微调时模型就能同时看到事实背景和上下文。仓库里提供了两个可直接运行的脚本，分别处理文本分类和命名实体识别任务，并附有预训练权重和知识文件的下载链接。由于基于 UER 框架搭建，代码整体比较精简，适合想尝试知识增强微调，尤其是面向中文场景的开发者作为起点。