chatglm.cpp
chatglm.cpp copied to clipboard
你好,我的开发环境有2张卡,推理时想使用2张卡进行并行推理。请问推理时,可以指定用哪张卡吗