Langchain-Chatchat
Langchain-Chatchat copied to clipboard
[BUG] 轻量化部署-使用线上Embedding模型报错
**问题描述
根据文档描述
我将configs/model_config.py的"EMBEDDING_MODEL"字段的值设置成“zhipu-api”,
然后运行知识库的初始化命令,报错如下
🤖
你好,@yellowaug!很高兴再次看到你的问题,希望这次我们也能一起顺利解决。
根据您提供的信息,我发现了一些可能的解决方案。这个TypeError
错误可能是由于在configs/model_config.py
中的"zhipu-api"初始化或配置出现问题。错误提示在代码中的某个地方,尝试在一个None
对象上进行操作,而这个对象应该是一个具有conjugate
方法的类或类型的实例。这可能是因为初始化命令期望得到某种应该由配置设置的对象或值,但没有得到,可能是因为"zhipu-api"配置没有正确创建或返回预期的对象。
要解决此问题,您需要确保:
- 在
configs/model_config.py
中的"zhipu-api"配置已正确设置所有必需的参数。 - 初始化命令正确处理"zhipu-api"配置,正确实例化并设置其需要的任何对象或组件。
- 使用由命令初始化的配置或对象的任何代码都检查
None
值,并适当处理它们,以避免在NoneType
对象上尝试操作。
没有具体的初始化命令代码以及它如何与配置交互,很难确定确切的原因。但是,审查初始化过程并确保正确使用和处理配置应有助于识别和解决问题。
另外,我在Langchain-Chatchat的问题库中找到了一些类似的已解决问题,可能对您有所帮助:
- [BUG] 简洁阐述问题 / 运行python init_database.py --recreate-vs错误
- [BUG] 简洁阐述问题 / Concise description of the issue
- [BUG] 无法使用zhipu的在线embedding
希望这些信息能帮助您解决问题。如果您有任何其他问题或需要进一步的澄清,请随时告诉我。
Sources
- [BUG] 简洁阐述问题 / 运行python init_database.py --recreate-vs错误
- [BUG] 简洁阐述问题 / Concise description of the issue
- [BUG] 无法使用zhipu的在线embedding
- configs/model_config.py.example
About Dosu
This response is meant to be useful and save you time. It is not meant to be a precise solution, but rather a starting point for your own research.
Help me be more useful! Please leave a 👍 if this is helpful and 👎 if it is irrelevant.
If you want to continue the conversation, start your reply with @dosu-bot.
zhipu的应该是没支持,其他轻量化服务不是我写的,我不太清楚
哈哈~作者真是勤劳~话说问下你们的0.3什么时候更新
这个得看一下时间了,chatchat是我们的业余项目,我们在不同的公司,这个只能有时间做
业余项目你们能做成这样,很强了。祝你们项目成功
zhipu的应该是没支持,其他轻量化服务不是我写的,我不太清楚 看代码智谱的embedding还没有支持,但是wiki却说是支持的,建议更新wiki文档,我在这个事情上花了3天时间,才搞清楚。 下图代码在/server/model_workers/zhipu.py中,我理解这是初始化智谱模型的代码:
请问下使用了lite方案,LLM和embedding模型都选择的qwen-turbo,启动和LLM问答正常,但是使用知识库问答,在使用了text-embedding-v1模型一直匹配不到知识库内容,这是为啥呢