Comfyui GGUF
Comfyui GGUF
目标受众主要是使用ComfyUI进行模型训练和部署的开发者和研究人员。他们需要在资源受限的环境中优化模型性能,ComfyUI-GGUF通过量化技术帮助他们实现这一目标。
总访问量: 474,564,576
占比最多地区: US(19.34%)
2,820
简介
ComfyUI-GGUF是一个为ComfyUI原生模型提供GGUF量化支持的项目。它允许模型文件以GGUF格式存储,这种格式由llama.cpp推广。尽管常规的UNET模型(conv2d)不适用于量化,但像flux这样的transformer/DiT模型似乎受量化影响较小。这使得它们可以在低端GPU上以更低的每权重变量比特率进行运行。
截图
产品特色
支持GGUF格式模型文件的量化
适用于transformer/DiT模型,如flux
允许在低端GPU上运行,优化资源使用
提供了自定义节点以支持模型量化
不包括LoRA / Controlnet等支持,因为权重已被量化
提供了安装和使用指南
使用教程
1. 确保ComfyUI版本支持自定义操作。
2. 使用git克隆ComfyUI-GGUF仓库。
3. 安装推理所需的依赖项(pip install --upgrade gguf)。
4. 将.gguf模型文件放置在ComfyUI/models/unet文件夹中。
5. 使用GGUF Unet加载器,该加载器位于bootleg类别下。
6. 根据需要调整模型参数和设置,进行模型训练或推理。
流量来源
直接访问51.61%外链引荐33.46%邮件0.04%
自然搜索12.58%社交媒体2.19%展示广告0.11%
最新流量情况
月访问量
4.92m
平均访问时长
393.01
每次访问页数
6.11
跳出率
36.20%
总流量趋势图
地理流量分布情况
美国
19.34%
中国
13.25%
印度
9.32%
俄罗斯
4.28%
德国
3.63%
地理流量分布全球图