hanwsf

.env中： PERSIST_DIRECTORY=db MODEL_TYPE=GPT4All MODEL_PATH=models/ggml-gpt4all-j-v1.3-groovy.bin EMBEDDINGS_MODEL_NAME=DMetaSoul/sbert-chinese-general-v2 **

> > 嵌入向量的模型换成这个试试[GanymedeNil/text2vec-large-chinese](https://huggingface.co/GanymedeNil/text2vec-large-chinese/tree/main) > > error is below: > > ``` > Loading documents from source_documents > Loaded 1 documents from source_documents > Split into 366 chunks of text (max....

> env embedding改成这个可以了 EMBEDDINGS_MODEL_NAME=distiluse-base-multilingual-cased-v1 来源是这个：[https://www.sbert.net/docs/pretrained_models.html的多语言](https://www.sbert.net/docs/pretrained_models.html%E7%9A%84%E5%A4%9A%E8%AF%AD%E8%A8%80) 非常感谢！使用其中的：paraphrase-multilingual-mpnet-base-v2可以出来中文。就是前面有很多的：gpt_tokenize: unknown token '�' To be improved @imartinez, please help to check: 1. how to remove the 'gpt_tokenize: unknown token '�''' 2. The answer is...

这里看是两个问题，放进文件夹的是zip格式的压缩文件吗？第2个是要么换一个模型看一看。 ---- 回复的原邮件 ---- | 发件人 | ***@***.***> | | 日期 | 2023年05月22日 15:43 | | 收件人 | ***@***.***> | | 抄送至 | ***@***.***>***@***.***> | | 主题 | Re: [imartinez/privateGPT]...

> No CMAKE_CXX_COMPILER could be found. install cmake

cannot import name 'AutoTokenizer' from 'transformers' (/root/anaconda3/envs/Langchain/lib/python3.11/site-packages/transformers/init.py) 建议uninstall，然后重新install transformers==？.

milvus用2.4版本

我的实践是：使用ollama 库中已有的一点问题没有。自己下载gguf等，要非常仔细的配template, parameter, system 等，稍微哪里没设对，轻者偶尔蹦出莫名其妙的，重者像个神经病。不受控制的输出是因为stop没有设置对 ---- 回复的原邮件 ---- | 发件人 | ***@***.***> | | 日期 | 2024年05月22日 17:55 | | 收件人 | ***@***.***> | | 抄送至 | ***@***.***>***@***.***> | |...

ONLINE_LLM_MODEL = { "dolphin-llama3": { #ollama "api_base_url": "http://localhost:11434/v1", "options": 'num_predict 4098'#传递给ollama模型，是PARAMETER参数 }, "qwen:7b-chat-v1.5-q6_K": { #ollama 85% w noise "api_base_url": "http://localhost:11434/v1", "options": 'num_predict 4098'#传递给ollama模型，是PARAMETER参数

Alternative way is adding a code block to replace '\\' with ''