maxleton-cyber
Results
1
comments of
maxleton-cyber
我也遇到这个问题，调用的时候有显示用到的GPU，但是用的还是CPU推理 ``` ggml_init_cublas: found 1 CUDA devices: Device 0: NVIDIA GeForce GTX 1650 Ti, compute capability 7.5 ```