chatglm.cpp
chatglm.cpp copied to clipboard
官方docker无法使用
出现错误:
./build/bin/main: error while loading shared libraries: libggml.so: cannot open shared object file: No such file or directory
出现错误: ./build/bin/main: error while loading shared libraries: libggml.so: cannot open shared object file: No such file or directory
这个需要pip install .,有的是直接pip install chatglm_cpp,都可以的,这个其实和cpp还是有关系的,这个主要就是实现C++加速推理嘛