agi

收录理由

如果你一直想在自己和团队真正拥有的多台机器上训练或微调模型，又不想搭建中心化集群或租用云GPU，这个项目很值得研究。它运行一个点对点网络，每个节点在本地训练，只共享压缩后的权重更新而非原始数据，采用DiLoCo风格的方案，把每轮通信的数据量从几MB压缩到几十KB。消费级笔记本、小型虚拟机和家用工作站都能加入同一个网格，共同完成一轮协作训练；维护者报告说，曾有32个匿名节点以这种方式在24小时内训练了一个语言模型。项目还提供Pod功能，允许一小群人把各自的机器整合成一个共享集群，用于分布式推理。这是一款实验性研究软件，是去中心化训练的概念验证，而非生产级平台，但如果你对不需要可信基础设施的联邦式方法感兴趣，它是目前较具体可研究的实现之一。