ComfyUI-GGUF

收录理由

大多数扩散模型在中等显存或低显存的显卡上运行时常会遇到瓶颈，这个 ComfyUI 扩展提供了一条绕开限制的路径。它的加载节点支持读取 llama.cpp 带火的 GGUF 量化格式模型文件，用一部分图像质量换取显著降低的显存占用。像 FLUX 和 Stable Diffusion 3.5 这类基于 Transformer 的模型，对量化的容忍度比老式 UNet 架构更高；扩展还附带了一个量化版 T5 文本编码器的加载节点，所以节省下来的资源既覆盖了模型权重，也覆盖了条件文本部分。安装方式是把仓库克隆到 ComfyUI 的 custom_nodes 目录，再额外装一个 pip 依赖即可，原有的工作流只需将默认的扩散模型加载器替换成 GGUF 加载器。项目自身仍标注为开发中状态，使用时可能会遇到一些粗糙之处，但它已经成为在消费级硬件上运行大型扩散模型的常见选择。