一直提示找不到模型

[hellangleZ]

模型文件具体在哪，我没看到，但是再开头的log日志里我看到快7个G的文件是下载完了的，我用的hugging face

[hellangleZ]

能否帮我确认一下，多谢了

[thomas-yanxin]

提供日志，看界面不能定位问题啊！

或者您先尝试一下推理chatglm-6b-int8试试能不能推理？是不是环境没装好不支持？

[weixiangying622]

我也是一样的问题，我用的是chatglm-6b，位置是LangChain-ChatGLM-Webui-master\model_cache\THUDM\chatglm-6b，从huggingface下载的，有8个bin文件，黑窗里面总是提示No sentence-transformers model found with name GanymedeNil/text2vec-large-chinese. Creating a new one with MEAN pooling，网页上点击“重新加载模型”，也是显示“模型未成功加载”，是模型文件放置的位置不对吗？还是huggingface下载的模型不对？又或者其他原因呢？谢谢！我独立运行chatglm 6b是能成功的，是在LangChain-ChatGLM-Webui中运行时才出现这个问题。

[thomas-yanxin]

我也是一样的问题，我用的是chatglm-6b，位置是LangChain-ChatGLM-Webui-master\model_cache\THUDM\chatglm-6b，从huggingface下载的，有8个bin文件，黑窗里面总是提示No sentence-transformers model found with name GanymedeNil/text2vec-large-chinese. Creating a new one with MEAN pooling，网页上点击“重新加载模型”，也是显示“模型未成功加载”，是模型文件放置的位置不对吗？还是huggingface下载的模型不对？又或者其他原因呢？谢谢！我独立运行chatglm 6b是能成功的，是在LangChain-ChatGLM-Webui中运行时才出现这个问题。

您独立运行chatglm 6b也用的LangChain-ChatGLM-Webui-master\model_cache\THUDM\chatglm-6b这个路径？

[White-Friday]

我的可以加载chatglm模型，但是无法加载chinese模型，也是出现No sentence-transformers model found with name GanymedeNil/text2vec-large-chinese. Creating a new one with MEAN pooling，然后重新加载，chatglm可以加载，一开始对话就报错，提示RuntimeError: Error in faiss::FileIOReader::FileIOReader(const char*) at /project/faiss/faiss/impl/io.cpp:67: Error: 'f' failed: could not open faiss_index/index.faiss for reading: No such file or directory

[thomas-yanxin]

我的可以加载chatglm模型，但是无法加载chinese模型，也是出现No sentence-transformers model found with name GanymedeNil/text2vec-large-chinese. Creating a new one with MEAN pooling，然后重新加载，chatglm可以加载，一开始对话就报错，提示RuntimeError: Error in faiss::FileIOReader::FileIOReader(const char*) at /project/faiss/faiss/impl/io.cpp:67: Error: 'f' failed: could not open faiss_index/index.faiss for reading: No such file or directory

你这里与模型无关。你没有点击知识库文件向量化这个button

[songqiangchina]

chatglm可以加载，一开始对话就报错，提示RuntimeError: Error in faiss::FileIOReader::FileIOReader(const char*) at /project/faiss/faiss/impl/io.cpp:67: Error: 'f' failed: could not open faiss_index/index.faiss for reading: No such file or directory

请问这个怎么解决呢 @thomas-yanxin

[thomas-yanxin]

chatglm可以加载，一开始对话就报错，提示RuntimeError: Error in faiss::FileIOReader::FileIOReader(const char*) at /project/faiss/faiss/impl/io.cpp:67: Error: 'f' failed: could not open faiss_index/index.faiss for reading: No such file or directory

请问这个怎么解决呢 @thomas-yanxin

你没有点击知识库文件向量化这个button

[snuffcn]

File "D:\AI\Anaconda3\envs\LcCC_Server\lib\site-packages\faiss\swigfaiss_avx2.py", line 11272, in read_index return _swigfaiss_avx2.read_index(*args) RuntimeError: Error in __cdecl faiss::FileIOReader::FileIOReader(const char *) at D:\bld\faiss-split_1685360948441\work\faiss\impl\io.cpp:68: Error: 'f' failed: could not open faiss_index\index.faiss for reading: No such file or directory

按不按那个按钮都一样。

我这个模型载入显示是就绪的“初始模型已成功加载，可以开始对话”