ChatGLM-6B icon indicating copy to clipboard operation
ChatGLM-6B copied to clipboard

[BUG/Help] <title>请问有人将ChatGLM与llama_index结合吗

Open rjc7011855 opened this issue 2 years ago • 2 comments
trafficstars

Is there an existing issue for this?

  • [X] I have searched the existing issues

Current Behavior

希望做一个中文文本搜索库,但是不知道怎么将ChatGLM与llama_index结合,有人做过吗,感谢!

Expected Behavior

No response

Steps To Reproduce

OS: Ubuntu 16.04 Python: 3.8 Transformers: 4.26.1 PyTorch: 1.12 CUDA Support: True

Environment

- OS:
- Python:
- Transformers:
- PyTorch:
- CUDA Support (`python -c "import torch; print(torch.cuda.is_available())"`) :

Anything else?

No response

rjc7011855 avatar Apr 11 '23 03:04 rjc7011855

实测 llama-index 自定义模型过程相对麻烦,而且基本都是对 langchain 中的类进行二次封装,所以目前有基于 langchain 和 chatglm 的本地知识问答应用,可以参考项目 https://github.com/imClumsyPanda/langchain-ChatGLM

imClumsyPanda avatar Apr 11 '23 04:04 imClumsyPanda

实测 llama-index 自定义模型过程相对麻烦,而且基本都是对 langchain 中的类进行二次封装,所以目前有基于 langchain 和 chatglm 的本地知识问答应用,可以参考项目 https://github.com/imClumsyPanda/langchain-ChatGLM

感谢!

rjc7011855 avatar Apr 11 '23 06:04 rjc7011855