ChatGLM-6B icon indicating copy to clipboard operation
ChatGLM-6B copied to clipboard

feat:在docker容器中部署

Open miaoec opened this issue 2 years ago • 1 comments

增加在docker容器中部署的支持

构建镜像

docker build -t chatglm .

运行镜像

docker run -v /the/model/path:/model -p 7860:7860 chatglm

通过/the/model/path指定宿主机的模型地址

gradio服务地址

http://127.0.0.1:7860/

miaoec avatar Mar 29 '23 09:03 miaoec

能不能给个cli的例子?

luckytalk avatar Apr 17 '23 07:04 luckytalk