#126 · 主分类: AI对话与Chatbot

chatty

ai chatbot huggingface local

ChattyUI - 在浏览器中运行LLM的私人AI聊天

项目最后更新:08/09/26

GitHub Stars

836

Forks数量

103

贡献者数量

12

许可证

MIT

收录理由

Chatty 借助 WebGPU 让开源大语言模型完全在浏览器里运行,你的提示词和文件始终留在本机,不会上传到任何服务器。如果你因为隐私顾虑而对云端聊天机器人有所保留,这款工具能提供熟悉的 ChatGPT 式界面,却省去了中间的第三方服务。它不止于普通对话:你可以载入 PDF 或代码文件并向模型提问,添加自定义记忆指令,用语音输入,还能把聊天记录导出为 JSON 或 Markdown。首次下载模型后即可离线使用,在网络不稳或隔离环境下尤其实用。对想了解浏览器端推理的团队来说,它也是一个完整可运行的参考实现。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目