MedicalGPT

收录理由

对于想用自己的数据训练医疗语言模型、而不是简单调用现成API的团队来说，MedicalGPT提供了一条完整的训练流水线。它覆盖了从领域文档增量预训练、有监督指令微调，到借助RLHF、DPO、ORPO、GRPO以及在线策略蒸馏进行偏好对齐的各个标准阶段。仓库为每个阶段都准备了可直接运行的shell脚本，并支持LoRA和全参数训练，适用于Qwen、Llama、Baichuan、ChatGLM等模型，还替你处理了聊天模板和数据格式转换。对手里有医疗语料和GPU资源、希望进行可复现脚本化实验的研究者和工程师，这套工具能省去很多手写训练循环的麻烦。当然，它不是一个开箱即用的聊天机器人，而是一个用来训练出聊天机器人的工具箱，更适合愿意自己调整配置、梳理数据的用户。