chatglm.cpp icon indicating copy to clipboard operation
chatglm.cpp copied to clipboard

你好,我的开发环境有2张卡,推理时想使用2张卡进行并行推理。请问推理时,可以指定用哪张卡吗

Open XiaoYangWu opened this issue 5 months ago • 0 comments

XiaoYangWu avatar Sep 11 '24 06:09 XiaoYangWu