GitHub Stars
12.9K
Forks数量
1.3K
贡献者数量
20
许可证
Other
收录理由
Dalai 是最早让 LLaMA 在普通笔记本上跑起来的工具之一，至今仍可作为本地模型运行的简洁模板，省去接触底层 C++ 编译的麻烦。它把 llama.cpp 和 alpaca.cpp 封装在命令行界面后面，一条 npx 命令就能装好量化后的 7B 或 13B 模型，自带的网页界面直接开聊。开发者还能借助它的 JavaScript API 和 Socket.io 端点，把本地推理嵌进 Node.js 应用。项目支持 Linux、macOS 和 Windows，也提供了 Docker Compose 配置，方便容器化部署。想找个轻量、自包含的方式在本地试试 LLaMA 或 Alpaca，从这里起步很合适。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。