显存明明还有空余却报 OOM：分配器碎片化与 soft_empty_cache 未回收

torch.cuda.OutOfMemoryError: Allocation on device 0 would exceed allowed memory. (out of memory)
Currently allocated     : 18.38 GiB
Requested               : 6.09 GiB
Device limit            : 16.00 GiB
Free (according to CUDA): 0 bytes
PyTorch limit (set by user-supplied memory fraction)
: 17179869184.00 GiB

现象与触发场景

常见触发场景：

• 同一个工作流在版本升级（如升到 0.27）后开始 OOM，回滚到旧版就正常
• 反复加载/卸载不同模型后出现 OOM
• 显存被切成大量小块，请求一个较大的连续块时找不到位置

根因

• PyTorch 的 CUDA 缓存分配器按块管理显存，长时间混合加载不同尺寸的模型后会产生碎片，虽然总空闲量够，但没有足够大的连续块满足本次请求。
• ComfyUI 的 soft_empty_cache 只做设备侧 empty_cache 与 ipc_collect，并不整理 CPU 侧分配；issue #10475 中维护者与用户确认过一部分“内存不释放”其实是分配器/堆的保留而非活跃张量。
• 某些版本存在显存回归：issue #1918 中用户回滚到旧 commit 后显存占用恢复正常，comfyanonymous 回复 “That error is fixed now”，说明这是版本级回归而非用户配置问题。

解决步骤

已按「最可能有效」排序。请从上往下做，每做完一步用「验证」确认，不要一次改五处。

1. 先判断是不是版本回归：回滚到上一个能用的版本验证
   如果 OOM 是“某次更新后才出现”且工作流没改过，优先怀疑版本回归而不是硬件。用 git 切到旧 commit 或装回旧版便携包跑同一工作流；能跑通即确认为回归，可在 issue 中贴出两版对照，并暂时停留在能用的版本。
   cd ComfyUI
   git log --oneline -20
   git checkout <上一个能用的 commit>
2. 启用 CUDA 分配器的可扩展段以缓解碎片
   PyTorch 分配器源码/PyTorch 论坛给出的提示原文为使用 PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True 来避免碎片化导致的 OOM。该环境变量需要在启动 ComfyUI 之前设置，且必须是进程级环境变量。（该提示原文片段来自搜索结果显示的 PyTorch 分配器报错文案，本次未取回页面全文，[未核实] 未逐版本核对原文措辞。）
   # Windows CMD / bat：
   set PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True
   # PowerShell：
   $env:PYTORCH_CUDA_ALLOC_CONF="expandable_segments:True"
   # Linux：
   export PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True
3. 让 ComfyUI 更积极地清缓存并释放模型
   --disable-smart-memory 强制把模型卸载回普通内存而不是留在显存；--cache-none 每次运行都重新执行节点而不缓存结果，显著降低 RAM/VRAM 占用（代价是变慢）。两者组合是社区对付碎片化 OOM 的常用组合。
   python main.py --disable-smart-memory --cache-none
   python main.py --disable-smart-memory --cache-lru 10

验证是否修好

补充说明

issue #1918 的“回滚到 4acfc11a802fad4e90103f9fd3cf73cb0c9b5ae1 后 VRAM 正常”为历史案例，该 commit 号来自用户评论原文，仅作为排查思路参考。expandable_segments 与部分后端（如 cudaMallocAsync）存在交互限制。[未核实] 具体在哪些 torch/后端组合下 expandable_segments 不生效，未逐一验证。

来源

1. [51] （官方 issue）　torch.cuda.OutOfMemoryError: Allocation on device 0 would exceed allow　https://github.com/Comfy-Org/ComfyUI/issues/1918
2. [52] （官方 issue）　out of memory error but I still have free memory · Issue #9121　https://github.com/Comfy-Org/ComfyUI/issues/9121
3. [53] （官方 issue）　Experiencing VRAM OOM with the same workflow after upgrading to ComfyU　https://github.com/Comfy-Org/ComfyUI/issues/14789
4. [6] （官方文档）　How to Troubleshoot and Solve ComfyUI Issues - ComfyUI Documentation　https://docs.comfy.org/troubleshooting/overview

这条报错要用到的东西

按本条报错所属的类别（显存与内存不足（OOM））列出站内相关的下载包与板块入口。 它们不是「必须下载才能修好」，而是这一类问题里最常要动到的东西；具体怎么做，以上面的解决步骤为准。

同一类别的其他条目

返回报错库