#171 · 主分类: 推理与本地部署
FreedomGPT
此代码库用于一个基于React和Electron的应用,该应用在Mac和Windows上通过聊天式界面本地(离线且私密)运行FreedomGPT LLM。
项目最后更新:06/13/24
GitHub Stars
2.7K
Forks数量
363
贡献者数量
2
许可证
GPL-3.0
收录理由
这是一款把 FreedomGPT 模型跑在你自己电脑上的桌面应用,Mac 或 Windows 上使用,所有对话都在本地完成,提示词不会离开你的设备。它用 Electron 和 React 搭了一个聊天界面,底层调用 llama.cpp 运行时,看起来就是个普通聊天窗口,但推理全程不走网络。安装过程比较动手:需要自己编译本地二进制,再手动指定已经下载好的模型文件路径。这种设计很对喜欢拆解细节、不愿装黑盒软件的用户的胃口,也适合有数据驻留或隐私合规要求的团队,因为对话数据完全不需要离开机器。不过要注意,这个项目规模不大,维护者就两三个人,把它当作一个可以继续开发的稳固基础更合适,别指望它更新很频繁。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。