#139 · 主分类: 推理与本地部署

HuggingFaceModelDownloader

golang huggingface llm transformers

简单的Go工具,用于下载HuggingFace模型和数据集

项目最后更新:06/13/26

GitHub Stars

1.2K

Forks数量

124

贡献者数量

11

许可证

Apache-2.0

收录理由

对搞本地大模型的人来说,从HuggingFace Hub拉权重几乎是每天的固定动作,这个Go写的小工具能把这件事变得顺滑不少。它会把模型下载到标准的HuggingFace缓存目录里,支持分块并行连接和断点续传,下载完以后transformers、diffusers这些Python库直接就能读到权重,不用你手动改任何路径配置。我最欣赏的是它的分析功能:在决定下载好几个G的大文件之前,你可以用交互模式把GGUF仓库翻一遍,看看每个量化版本的质量星级和内存估算,直接挑那个推荐的Q4_K_M,或者只勾选自己需要的部分。面对受限网络环境,它也考虑了SOCKS5代理和CIDR绕过;同时支持JSON输出和一个小型Web界面,想塞进脚本自动化也好,想在桌面上点点鼠标手动下载也罢,都挺顺手。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目