Nunchaku FLUX.1-dev GPU算力优化：显存不足时FP8量化+qencoder方案

你是不是也遇到过这种情况：看到别人用FLUX.1-dev模型生成的高清大图，自己也想试试，结果一运行就提示“CUDA out of memory”，显卡显存直接爆了？

别担心，这几乎是每个想玩转FLUX.1-dev模型的人都会遇到的第一个门槛。这个模型确实强大，但默认的FP16精度版本对显存的需求也相当“豪横”，动辄需要30GB以上。对于大多数只有8GB、12GB显存的普通显卡用户来说，这简直是个不可能完成的任务。

今天，我就来分享一套在ComfyUI中，针对Nunchaku FLUX.1-dev模型的“显存瘦身”组合拳：FP8量化 + 4-bit T5文本编码器（qencoder）。这套方案能让你在显存不足的情况下，依然流畅地体验FLUX.1-dev的文生图魅力。我会手把手带你从环境准备到最终出图，把每一步都讲清楚。

1. 为什么你的显存总是不够用？

在开始动手之前，我们先花两分钟了解一下“敌人”。知道问题出在哪，解决起来才更有方向。

当你运行FLUX.1-dev模型时，显存主要被以下几个“大户”瓜分：

  1. 模型权重：这是最大的一块。FLUX.1-dev模型本身参数巨大，FP16精度（每个参数占2字节）的版本加载到显存里，轻松占用15-20GB。
  2. 文本编码器：负责把你的文字描述（提示词）转换成模型能理解的向量。FLUX.1-dev使用了强大的T5-XXL和CLIP-L编码器，它们本身也是“庞然大物”，尤其是T5-XXL，在FP16精度下也要占用好几个GB。
  3. 中间激活值和梯度：在生成图片的计算过程中，会产生大量的临时数据。图片分辨率越高、推理步数越多，这部分显存占用就越大。
  4. VAE解码器：负责把模型生成的潜空间特征解码成最终的RGB图片。

我们的优化策略，就是针对前两个“大户”下刀：

  • 针对模型权重：使用FP8量化。把模型参数从FP16（2字节）压缩到FP8（1字节），理论上显存占用直接减半，从约17GB降到约8.5GB（针对量化后的模型而言）。虽然会损失一点点精度，但对最终出图效果的影响，在大多数情况下肉眼难以察觉。
  • 针对文本编码器：使用4-bit量化版本的T5编码器（qencoder）。这是更激进的压缩，能将T5编码器的显存占用大幅降低。

两者结合，就能为你的显卡“减负”不少。接下来，我们进入实战环节。

2. 环境准备与插件安装

工欲善其事，必先利其器。我们先确保基础环境就绪。

2.1 基础环境检查

你需要准备以下几样东西：

  • 硬件：一张支持CUDA的NVIDIA显卡。这是我们今天所有操作的基础。显存大小决定了你能选择哪种优化方案。
  • 软件：
    • Python 3.10+：建议使用3.10或3.11版本，兼容性最好。
    • Git：用于克隆代码仓库。
    • PyTorch：需要安装与你的CUDA版本匹配的PyTorch。如果你不确定，可以访问PyTorch官网查看安装命令。
  • 工具：提前安装好 huggingface-hub 命令行工具，后续下载模型会用到。 
    pip install --upgrade huggingface-hub

2.2. 安装ComfyUI与Nunchaku插件

这里我推荐使用手动安装的方式，过程更透明，也方便后续排查问题。

第一步：安装ComfyUI 在你的工作目录下，执行以下命令：

# 1. 克隆ComfyUI官方仓库
git clone https://github.com/comfyanonymous/ComfyUI.git
cd ComfyUI

# 2. 安装依赖包
pip install -r requirements.txt

如果网络较慢，可以考虑为pip命令加上 -i https://pypi.tuna.tsinghua.edu.cn/simple 使用国内镜像源。

第二步：安装Nunchaku插件 Nunchaku插件是运行FLUX.1-dev模型的必要组件。

# 进入ComfyUI的自定义节点目录
cd custom_nodes

# 克隆Nunchaku插件
git clone https://github.com/mit-han-lab/ComfyUI-nunchaku nunchaku_nodes

安装完成后，插件代码会位于 ComfyUI/custom_nodes/nunchaku_nodes 目录下。

第三步：安装Nunchaku后端依赖 从v0.3.2版本开始，插件提供了一个便捷的安装方式。在ComfyUI根目录下，运行：

python custom_nodes/nunchaku_nodes/install_wheel.py

这个脚本会自动检测你的系统环境，并安装或更新所需的后端wheel包。

3. 下载与配置优化版模型

核心来了！我们将下载专门为显存优化准备的模型文件。

3.1 模型目录结构

首先，了解ComfyUI的模型存放规则很重要，放错位置会导致加载失败。相关模型主要放在以下几个子目录下：

  • models/unet/：存放FLUX.1-dev的主模型（UNet部分）。
  • models/text_encoders/：存放文本编码器（CLIP和T5）。
  • models/vae/：存放VAE解码器。
  • models/loras/：存放LoRA模型（用于风格微调等）。

3.2 下载FP8量化版主模型

这是显存优化的关键一步。我们将使用FP8量化的FLUX.1-dev模型。

  1. 确定模型名称：FP8量化模型的名字通常包含 fp8 字样，例如 svdq-fp8-flux.1-dev.safetensors。你可以在Hugging Face的Nunchaku仓库中查找最新的FP8模型。
  2. 使用hf命令下载：在终端中，使用我们之前安装的 huggingface-hub 工具进行下载。假设模型名为 svdq-fp8-flux.1-dev.safetensors，仓库为 nunchaku-tech/nunchaku-flux.1-dev。 
    # 确保你在ComfyUI根目录，或指定正确的本地目录
hf download nunchaku-tech/nunchaku-flux.1-dev svdq-fp8-flux.1-dev.safetensors --local-dir models/unet/
    这个命令会将模型下载到 ComfyUI/models/unet/ 目录下。

小贴士：如果下载速度慢，可以尝试设置HF镜像环境变量：export HF_ENDPOINT=https://hf-mirror.com，然后再执行下载命令。

3.3 下载4-bit T5文本编码器 (qencoder)

接下来，我们对另一个显存大户——T5文本编码器动刀。

  1. 下载4-bit T5模型：我们需要下载专门量化过的T5模型，其名称可能类似 t5xxl_fp4.safetensors 或明确标注为4-bit的版本。 
    # 下载4-bit T5编码器
hf download nunchaku-tech/nunchaku-flux.1-dev t5xxl_fp4.safetensors --local-dir models/text_encoders/
  2. 下载CLIP编码器：CLIP编码器通常不大，我们使用标准FP16版本即可。 
    hf download comfyanonymous/flux_text_encoders clip_l.safetensors --local-dir models/text_encoders/

3.4 下载其他必要组件

  1. VAE解码器：这是标准组件，所有FLUX.1系列模型通用。 
    hf download black-forest-labs/FLUX.1-schnell ae.safetensors --local-dir models/vae/
  2. (可选) LoRA模型：如果你想为生成的图片添加特定风格（比如动漫风、胶片感），可以下载对应的LoRA模型，放到 models/loras/ 目录。例如，流行的 FLUX.1-Turbo-Alpha LoRA可以加速生成过程。

完成以上步骤后，你的 models 目录结构应该类似这样：

ComfyUI/models/
├── unet/
│   └── svdq-fp8-flux.1-dev.safetensors
├── text_encoders/
│   ├── clip_l.safetensors
│   └── t5xxl_fp4.safetensors
├── vae/
│   └── ae.safetensors
└── loras/
    └── (你的LoRA文件，可选)

4. 在ComfyUI中配置并运行优化工作流

模型就位，现在让我们启动ComfyUI，并加载为显存优化定制的工作流。

4.1 启动ComfyUI并加载工作流

  1. 启动服务：在ComfyUI根目录下运行：

    python main.py

    看到输出中包含 http://127.0.0.1:8188 类似的地址时，说明启动成功。用浏览器打开这个地址。

  2. 加载优化工作流：Nunchaku插件提供了示例工作流。我们需要将它复制到ComfyUI能读取的位置。

    # 在ComfyUI根目录下执行
mkdir -p user/default/example_workflows
cp custom_nodes/nunchaku_nodes/example_workflows/* user/default/example_workflows/

    重启ComfyUI后，在网页界面点击右键，选择 Load -> Default workflows，你应该能看到一个名为 nunchaku-flux.1-dev-qencoder.json 的工作流。这个就是专门为搭配4-bit T5编码器（qencoder）设计的工作流，请务必加载它。

4.2 工作流节点解析与配置

加载 nunchaku-flux.1-dev-qencoder.json 工作流后，你会看到一系列节点。我们重点关注几个关键节点：

  • NunchakuLoader：这是核心加载器。你需要在这里指定我们刚才下载的模型。
    • unet_name：选择 svdq-fp8-flux.1-dev.safetensors (你的FP8模型)。
    • text_encoder_1_name：选择 clip_l.safetensors。
    • text_encoder_2_name：选择 t5xxl_fp4.safetensors (关键的4-bit编码器)。
    • vae_name：选择 ae.safetensors。
  • 提示词输入节点：通常有两个，分别对应CLIP和T5编码器。你可以都输入相同的英文提示词，FLUX模型对英文支持更好。
  • KSampler：采样器节点。在这里设置：
    • steps：推理步数。使用FP8模型时，建议从25步开始尝试。步数越多，细节可能越好，但耗时也越长。
    • cfg：分类器自由引导尺度，控制提示词相关性。常用值在3.0-7.0之间，越高越贴近提示词，但可能降低多样性。
  • 图像预览/保存节点：最终输出图片的地方。

4.3 首次运行与参数调整

  1. 输入提示词：在提示词框里用英文描述你想生成的画面。例如：A serene landscape of a misty forest at sunrise, photorealistic, 8k, detailed。
  2. 设置分辨率：对于显存有限的显卡（如8GB），建议从较低分辨率开始，例如 1024x576 或 896x512。你可以在 Empty Latent Image 节点中设置 width 和 height。
  3. 点击“Queue Prompt”：开始生成！
  4. 观察与调整：
    • 如果成功生成，恭喜你！可以尝试提高分辨率或增加步数，看看效果和显存占用。
    • 如果仍然报显存错误，请依次尝试：降低分辨率 -> 减少推理步数 -> 检查是否误加载了FP16版本模型或编码器。

5. 效果对比与进阶技巧

5.1 FP8量化 + qencoder 效果如何？

你可能会担心，经过这么一番“压缩”，图片质量会不会大打折扣？

根据我的实测，在大多数情况下，肉眼几乎看不出区别。FP8量化在降低显存占用的同时，很好地保持了模型的表征能力。而4-bit的T5编码器对于文生图任务来说，其文本理解能力的损失也在可接受范围内，尤其是当你使用了详细、准确的提示词时。

真正的差异可能体现在一些极其精细的纹理、复杂的空间结构或者需要高度语义一致性的场景中。但对于日常的风景、人物、概念设计等创作，优化版模型完全够用，它能让你在有限的硬件上跑起来，这本身就是最大的价值。

5.2 其他显存优化技巧

如果你的显存特别紧张（比如只有6GB），还可以组合以下技巧：

  1. 使用--lowvram模式启动：在启动命令中加入参数，但可能会显著降低生成速度。 
    python main.py --lowvram
  2. 启用CPU卸载：在ComfyUI的设置中，可以尝试启用“CPU卸载”选项，它会将不活跃的模块暂时移到内存中，但这会增加生成时间。
  3. 使用更小的LoRA或关闭LoRA：有些LoRA模型也会增加显存开销，如果非必要，可以先关闭。
  4. 尝试INT4量化模型：如果FP8仍然吃力，可以寻找INT4量化的FLUX.1-dev模型，显存占用会更低，但精度损失也更大一些。

5.3 常见问题排查

  • 节点加载失败/红色：检查ComfyUI-Manager是否已安装所有缺失的自定义节点。在ComfyUI网页端，点击“Manager”->“Install Missing Custom Nodes”。
  • 模型加载失败：确认模型文件已下载完整，且放在了正确的目录下。检查文件名是否完全匹配（包括后缀）。
  • 生成速度极慢：确认你的显卡驱动和CUDA版本正确。在CPU或集显上运行会非常慢。
  • 图片纯黑或纯灰：检查VAE模型是否正确加载，或者尝试在KSampler中切换不同的采样器（如euler， dpmpp_2m）。

6. 总结

通过 FP8量化主模型 和 4-bit T5文本编码器 这套组合方案，我们成功地将Nunchaku FLUX.1-dev这个“显存巨兽”驯服，让它能够在消费级显卡上运行。这套方案的核心思路就是“按需压缩”，在显存和生成质量之间找到一个高效的平衡点。

回顾一下关键步骤：准备好Python和CUDA环境 -> 安装ComfyUI和Nunchaku插件 -> 下载FP8主模型和4-bit T5编码器 -> 加载专用的 qencoder 工作流 -> 根据你的显卡调整分辨率和步数。

现在，你可以尽情探索FLUX.1-dev的强大文生图能力了，而不必再为“CUDA out of memory”而烦恼。从生成一张简单的风景图开始，逐步尝试更复杂的提示词、不同的采样器，甚至结合LoRA打造独特风格。实践出真知，动手试试吧！

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。

# ComfyUI
Logo
九章云极普惠算力

更多推荐

Kandinsky-5.0-I2V-Lite-5s惊艳效果展示：赛博朋克街景→霓虹闪烁+雨滴滑落动态视频

本文介绍了如何在星图GPU平台上自动化部署Kandinsky-5.0-I2V-Lite-5s镜像，实现高效图生视频转换。该工具能将静态赛博朋克街景图片快速转换为动态视频，添加霓虹闪烁、雨滴滑落等效果，适用于短视频制作、广告创意等场景，显著提升内容创作效率。

avatar 九章云极普惠算力
cover

阿里云 Coding Plan Lite 下架，各家算力吃紧，上哪买还能支持GLM-5和5.1的coding plan？_2026-04-15

avatar 九章云极普惠算力
cover

看遍了市面上的coding plan，我发现还是这个好用

avatar 九章云极普惠算力