Langchain-Chatchat icon indicating copy to clipboard operation
Langchain-Chatchat copied to clipboard

Published 20 hours ago • verified publisher icon chatchat-space

请问在多卡部署后，上传单个文件作为知识库，用的是单卡在生成向量还是多卡？

Open ywm12345 opened this issue 1 year ago • 1 comments

目前我检测我本地多卡部署的，好像生成知识库向量的时候用的还是单卡

ywm12345 avatar Jun 13 '23 09:06 ywm12345

生成向量是调用了HuggingFaceEmbeddings实现的，不支持多卡部署，只有LLM是支持多卡部署的

hzg0601 avatar Jun 15 '23 05:06 hzg0601