无法运行 cuda 版本

#1
by qixing - opened

环境

OS:Win11
CUDA :
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2024 NVIDIA Corporation
Built on Tue_Feb_27_16:28:36_Pacific_Standard_Time_2024
Cuda compilation tools, release 12.4, V12.4.99
Build cuda_12.4.r12.4/compiler.33961263_0

依赖

"onnxruntime-gpu>=1.22.0",
torch 的 cuda124 版本
sherpa_onnx-1.12.7+cuda-cp312-cp312-win_amd64.whl

使用的应用是:open-llm-vtuber

问题

运行后出现错误:

image.png

尽管手动拷贝了文件到上述的目录,错误依旧。这大概是什么原因?

cuda 版本不对,应该装 11.8

qixing changed discussion status to closed

你说的非常对!

https://k2-fsa.github.io/sherpa/onnx/python/install.html#method-2-from-pre-compiled-wheels-cpu-cuda

文档里有明确提到,需要 CUDA 11.8

还有, 我们和 onnxruntime-gpu,没有半毛钱关系。

你不需要安装 onnxruntime-gpu 的。

Sign up or log in to comment