TopOpenSourceAI
EN

#162 · 主分类： 推理与本地部署

Talos

ai distributed-computing gpu llm ollama python websocket worker

Talos网络的GPU工作节点客户端。与您的Talos账户配对，通过WebSocket提供开放模型推理任务，并报告正常运行时间以获取报酬。

项目最后更新：07/08/26

在 GitHub 查看 访问官网

GitHub Stars

712

Forks数量

18

贡献者数量

1

许可证

MIT

收录理由

这个轻量级Python客户端能让闲置的GPU派上用场。通过短代码与Talos账户配对后，它会通过WebSocket监听开放模型的推理任务，并交给本地的Ollama来执行。分配滑块可以调节你愿意贡献多少机器资源，仪表盘则实时显示在线时长和每笔任务的收益。如果你已经在用Ollama，又不想自己搭建完整的服务端，只想利用空闲算力赚点回报，这个工具提供了一种低门槛的参与分布式推理网络的方式。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。

同类热门项目

ollama

快速上手使用 Kimi-K2.6、GLM-5.2、MiniMax、DeepSeek、gpt-oss、Qwen、Gemma 等模型。

#1

llama.cpp

基于C/C++的LLM推理

#2

vllm

面向LLM的高吞吐量、内存高效的推理与服务引擎。

#3

gpt4all

GPT4All：在任何设备上运行本地大语言模型。开源且可用于商业用途。

#4

LocalAI

LocalAI 是开源 AI 引擎。可在任何硬件上运行任何模型——LLM、视觉、语音、图像、视频。无需 GPU。

#5