onnxruntime-gpu 与 CUDA 版本不匹配导致检测节点悄悄退回 CPU（Failed to create CUDAExecutionProvider）

Failed to create CUDAExecutionProvider. Require cuDNN 9.* and CUDA 12.*, and the latest MSVC runtime. Please install all dependencies as mentioned in the GPU requirements page, make sure they're in the PATH, and that your GPU is supported.

现象与触发场景

常见触发场景：

• 装了 onnxruntime-gpu 但版本与系统 CUDA/cuDNN 不匹配
• 同一环境里同时装了 onnxruntime（CPU 版）和 onnxruntime-gpu，两者互相覆盖
• 系统里只有 CUDA 13 的 DLL，而 onnxruntime 的 CUDA provider 按名字去找 CUDA 12 的 DLL

根因

• onnxruntime 的 CUDA provider 是单独编译的 DLL/SO，加载失败时 onnxruntime 会静默退回 CPU，只在日志里留一行警告。
• 官方 issue 记录：onnxruntime 与 onnxruntime-gpu 无法共存，同时安装会导致 CUDAExecutionProvider 不可用，必须先卸载其中一个。
• 实测记录：ONNX Runtime（如 1.24）会按带版本后缀的名字找 CUDA 12 的 DLL（cudart64_12.dll、cublas64_12.dll、cufft64_11.dll），只装了 CUDA 13 的机器上找不到这些名字，程序就报 CUDA 不可用并回退 CPU——DLL 名字里的版本号就是硬约束。
• 另一个常见原因是 onnxruntime-gpu 版本要求的 cuDNN 大版本（如 9.x）与机器上安装的不符。

解决步骤

已按「最可能有效」排序。请从上往下做，每做完一步用「验证」确认，不要一次改五处。

1. 先确认当前环境里装的是哪个 onnxruntime、版本多少
   打印 onnxruntime 的版本与可用的执行提供程序列表，看 CUDAExecutionProvider 是否在列表里；不在列表说明当前就是 CPU 版。
   .\python_embeded\python.exe -c "import onnxruntime as ort; print(ort.__version__); print(ort.get_available_providers())"
2. 卸载 CPU 版、只留 onnxruntime-gpu 并安装与 CUDA/cuDNN 匹配的版本
   先卸载 onnxruntime 与 onnxruntime-gpu，再只安装 onnxruntime-gpu 的一个版本；该版本必须满足它自己文档要求的 CUDA 与 cuDNN 大版本（当前错误提示里明确写的是 cuDNN 9.* 与 CUDA 12.*）。
   .\python_embeded\python.exe -m pip uninstall -y onnxruntime onnxruntime-gpu
   .\python_embeded\python.exe -m pip install onnxruntime-gpu
   .\python_embeded\python.exe -c "import onnxruntime as ort; print(ort.get_available_providers())"
3. 按 DLL 名字补齐缺失的 CUDA 运行时，或直接接受 CPU 回退
   如果报错是找不到某个具体 DLL（Windows 常见 onnxruntime_providers_cuda.dll 加载失败，Linux 常见 libcublasLt.so.12），就按它要求的 CUDA 大版本补装对应运行时并把目录加入 PATH；如果这个节点不是你的关键路径，也可以保留 CPU 回退，只是速度慢。
   .\python_embeded\python.exe -c "import onnxruntime as ort; ort.set_default_logger_severity(0); print(ort.get_available_providers())"

验证是否修好

补充说明

[未核实] 不同节点的 onnxruntime 依赖版本不同，具体该装哪个 onnxruntime-gpu 版本需按该节点的 requirements 与其文档要求选择，本条目未给出具体版本号以免误导。

来源

1. [158] （节点仓库 issue）　`onnxruntime` and `onnxruntime-gpu` can not co-exist and support CUDAE　https://github.com/microsoft/onnxruntime/issues/26996
2. [159] （节点仓库 issue）　[IMPORTANT] Check your Reactor uses GPU -- not CPU!! · Gourieff/ComfyU　https://github.com/Gourieff/ComfyUI-ReActor/discussions/169
3. [146] （社区）　RTX 5090 survival guide: sm_120, CUDA 12 and 13 side by side, and the 　https://dev.to/madcoolseed/rtx-5090-survival-guide-sm120-cuda-12-and-13-side-by-side-and-the-xformers-trap-25nh
4. 网络、下载与访问（含国内网络环境）（11 条）

这条报错要用到的东西

按本条报错所属的类别（PyTorch、CUDA 运行库与加速库冲突）列出站内相关的下载包与板块入口。 它们不是「必须下载才能修好」，而是这一类问题里最常要动到的东西；具体怎么做，以上面的解决步骤为准。

同一类别的其他条目

返回报错库