ChatGLM-6B
ChatGLM-6B copied to clipboard
feat:在docker容器中部署
增加在docker容器中部署的支持
构建镜像
docker build -t chatglm .
运行镜像
docker run -v /the/model/path:/model -p 7860:7860 chatglm
通过/the/model/path指定宿主机的模型地址
gradio服务地址
http://127.0.0.1:7860/
能不能给个cli的例子?