#5 · 主分类： 基础模型
unilm
beit
beit-3
bitnet
deepnet
document-ai
foundation-models
kosmos
kosmos-1
layoutlm
layoutxlm
llm
minilm
mllm
multimodal
nlp
pre-trained-model
textdiffuser
trocr
unilm
xlm-e
跨任务、跨语言、跨模态的大规模自监督预训练
项目最后更新：08/26/26
GitHub Stars
22.2K
Forks数量
2.7K
贡献者数量
78
许可证
MIT
收录理由
微软的 unilm 仓库汇集了该公司在预训练基础模型方向的核心研究成果，是理解或复用文档智能、多语言自然语言处理以及多模态系统背后模型的一个理想起点。这里存放着已发布的模型权重和训练代码：LayoutLM 与 TrOCR 能解析扫描件和 PDF，Kosmos 系列将语言与图像世界相连，MiniLM 和 E5 则提供紧凑的向量表示用于检索。它并非一个可直接部署的单一产品，而是一套预训练权重与配方的集合，每个模型都有独立的子目录、论文和微调脚本。对于构建文档理解或跨语言搜索的团队，这里提供了现成的起点；研究者也能从中清晰看到微软模型在任务、语言和模态上的演进脉络。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。