wyw828-code
wyw828-code
大模型没问题,但是我的硬件设备貌似不支持更大的模型,所以想尝试小模型是否可以
可能是我ollama的配置有问题?
也没有报错信息,就是构建不出来
我发现好像是嵌入模型的问题,项目预选的一些嵌入模型我也无法使用,用了构建不出来图谱
解决了,主要是嵌入模型配置的维度问题。
这个项目是不是不建议使用比deepseek3低的,参数少的模型,我使用了其他低的模型,修改提示词之后还是得不到想要的回复
那对于这个项目而言呢,要是想这种实现是不是也不是很现实。
是修改config/base_config.yaml下的construction.mode吗?
call_llm_api:54 - LLM api calling failed. Error: Error code: 429 - {'message': 'Request was rejected due to rate limiting. Details: TPM limit reached.', 'data': None} 这个问题是因为模型限制吗?