#626 · 主分类: 教育与研究

Code-LMs

deep-learning gpt-2 source-code

使用预训练的源代码大语言模型指南

项目最后更新:07/07/24

GitHub Stars

1.8K

Forks数量

261

贡献者数量

6

许可证

MIT

收录理由

这份仓库更像是一份亲手写下的操作手册,告诉你如何真正跑起代码生成模型,而不是让你在论文里反复摸索。它把PolyCoder从下载检查点到通过HuggingFace或GPT-NeoX加载、再到从提示生成代码的完整路径都讲清楚了。作者还把自己论文里的评估流程原样记录下来,包括困惑度和HumanEval的跑法,这对想对比模型或复现结果的人来说非常省事。训练数据涉及12种编程语言的多语言细节,以及温度这类生成参数,也都给了实际说明。它算不上打磨精致的工具,但写这份参考的人就是模型本身的训练者,这种一手经验恰恰是实验中最难得的。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目