fp8 / 量化模型加载报错：comfy_kitchen 缺失、weight_dtype 设错、显卡不支持该格式

Failed to import comfy_kitchen, Error: ..., fp8 and fp4 support will not be available.
WARNING: You need pytorch with cu130 or higher to use optimized CUDA operations.
comfy_kitchen does not support MXFP8, please update comfy_kitchen.
NVFP4 requires 2D tensor, got 3D

现象与触发场景

常见触发场景：

• torch 是 CUDA 12.x 构建，未满足 comfy-kitchen 需要的 cu130+
• 把已经量化好的 *_fp8_scaled.safetensors 又手动把 weight_dtype 设成 fp8_e4m3fn
• 在非 Blackwell 显卡上加载 nvfp4 模型，或在 RDNA1/RDNA2 上跑 int8 路径
• 量化文件的元数据不完整，ComfyUI 没识别出它是量化模型

根因

• ComfyUI 的量化算子由 comfy-kitchen 提供：该包导入失败时会安装桩类让 ComfyUI 还能启动，但 fp8/fp4 支持直接不可用，于是在模型加载或采样阶段才报错。
• UNETLoader 的 weight_dtype 下拉（default / fp8_e4m3fn / fp8_e4m3fn_fast / fp8_e5m2）是把「已加载的 bf16 权重」转成 fp8 的选项；对本来就带缩放因子的 fp8_scaled 文件再设一遍，等于和文件自带的 scale 打架。
• 量化格式受硬件与构建限制：fp8 快速矩阵乘需要 cu130+ 的 torch 构建，nvfp4 需要 Blackwell（RTX 50 系及以上），int8 路径依赖 comfy-kitchen 的 Triton 内核且要 --enable-triton-backend 与 Triton>=3.7。
• 判断模型是否被识别为量化的关键日志行是 Found quantization metadata version 1：没有这一行说明 ComfyUI 没把它当量化模型，后面必然崩在运行期而非加载期。

解决步骤

已按「最可能有效」排序。请从上往下做，每做完一步用「验证」确认，不要一次改五处。

1. 第一步：先在日志里确认量化是否被识别
   搜索 ComfyUI 控制台里是否有 Found quantization metadata version 1。有这一行说明元数据识别正常，问题在内核/构建（看后面几条）；没有这一行说明文件没被当作量化模型，要检查是否下错了变体（普通 safetensors / GGUF / nvfp4 是不同文件）以及加载器是否选对。
2. 第二步：把 comfy-kitchen 与 torch 装到匹配的版本
   若日志报 Failed to import comfy_kitchen，把 comfy-kitchen 重新装进 ComfyUI 自己的 Python；若报需要 cu130 或更高的 pytorch，说明当前 torch 是 CUDA 12.x 构建，需要换成 cu130+ 的 torch 构建，否则优化版 CUDA 算子会被禁用（此时也可能表现为启动警告 cu130 warning、CUDA backend disabled）。
   python_embeded\python.exe -m pip install comfy-kitchen==0.2.31
   python_embeded\python.exe -m pip install --upgrade torch --index-url https://download.pytorch.org/whl/cu130
3. 第三步：fp8_scaled 文件保持 weight_dtype 为 default
   文件名带 _fp8_scaled 的模型自带缩放因子，UNETLoader 的 weight_dtype 留在默认值即可，让它按元数据自行执行。只有当你把一个 bf16 的 safetensors 想省显存时，才把 weight_dtype 设为 fp8_e4m3fn（纯转换）或 fp8_e4m3fn_fast（需要 cu130+ 的 torch）。
4. 第四步：格式与硬件不匹配时换文件变体
   nvfp4 只适用于 Blackwell（RTX 50 系及以上），fp8 快速矩阵乘要求 cu130+ 的 torch，AMD 的 int8 路径仅在 RDNA3/3.5/4 与 CDNA 上受支持。如果显卡不在支持范围，最实际的做法是换成 fp8_scaled 或 GGUF 变体，而不是继续排查算子。换文件后按上一条目录规则放到 models/diffusion_models（或 models/unet）。

验证是否修好

补充说明

「Found quantization metadata version 1」「Failed to import comfy_kitchen...」「You need pytorch with cu130 or higher...」「comfy_kitchen does not support MXFP8...」「NVFP4 requires 2D tensor, got 3D」均取自对 comfy/quant_ops.py 与 comfy/utils.py 的源码整理。RDNA1/RDNA2 上 int8 路径的表现是 GPU 挂死而非报错。

来源

1. [106] （社区）　ComfyUI Quant Load Errors: GGUF, fp8, NVFP4, INT8　https://localaimaster.com/blog/comfyui-quantization-format-errors
2. [110] （官方 issue）　Trying to convert Float8_e4m3fn to the MPS backend but it does not hav　https://github.com/Comfy-Org/ComfyUI/issues/6859
3. [111] （节点仓库 issue）　baddbmm_cuda not implemented for 'Float8_e4m3fn' – FP8 error · Issue #　https://github.com/kijai/ComfyUI-WanVideoWrapper/issues/721
4. [112] （官方 issue）　ComfyUI crashes when loading umt5_xxl_fp8_e4m3fn_scaled.safetensors · 　https://github.com/Comfy-Org/ComfyUI/issues/10471

本条报错提到的目录

本条报错的原文或解决步骤里出现了下面这些 models/ 子目录。 权重库里放在这些目录下的文件已按目录列好，可对照确认自己缺的是哪几个。

这条报错要用到的东西

按本条报错所属的类别（模型与权重文件加载）列出站内相关的下载包与板块入口。 它们不是「必须下载才能修好」，而是这一类问题里最常要动到的东西；具体怎么做，以上面的解决步骤为准。

同一类别的其他条目

返回报错库