#706 · 主分类: 教育与研究

FastEdit

bloom chatbots chatgpt falcon gpt large-language-models llama llms pytorch transformers

🩹在10秒内编辑大型语言模型⚡

项目最后更新:08/13/23

GitHub Stars

1.4K

Forks数量

103

贡献者数量

2

许可证

Apache-2.0

收录理由

FastEdit 解决的是一个很具体的问题:模型已经训练好了,但某个事实性知识总是答错。它不需要重新训练,你只需准备一个简单的 JSON 文件,把提示词、主语和正确的目标答案写进去,程序就会用 ROME 秩一编辑算法在几秒内改写相关权重。它支持 LLaMA、LLaMA-2、BLOOM、Falcon、Baichuan 等常见开源模型,README 里还清楚列出了 7B 和 13B 规模下的显存占用与每步耗时。对于想尝试知识注入、或者想复现模型编辑实验又不想被重型框架拖累的人来说,这份代码是个很实用的参考。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目