sixgod comments

Results 36 comments of


                                            sixgod

About the High-resolution Image Encoder (light-weight)

你是对的，CogAgent9B-20241220是基于GLM-4v的，论文应该是上一个版本的技术报告

如何使用 Transformers 启动 GLM-4-9B-Chat 服务端？

GLM-4-9B的服务端部署可以执行[basic_demo/openai_api_server.py](https://github.com/THUDM/GLM-4/blob/main/basic_demo/openai_api_server.py) 详细使用方法请参考https://zhipu-ai.feishu.cn/wiki/VpncwoWn4i2ZsDkWSqYcbtwSnWd

GLM-Z1使用vllm批量推理输出错乱

这个应该是vllm的问题，你可以在[vllm仓库](https://github.com/vllm-project/vllm/issues)询问，我们会跟踪这个问题并在vllm仓库提交pr解决

Update finetune.py

该问题已经在这个commit中合并 https://github.com/THUDM/CogAgent/pull/39

GLM-Z1-32B-0414 vLLM部署 reasoning 有问题

我猜之间是思考部分，之后是回答部分吧

GLM-4-9B-0414 通过vllm serve启动工具调用失败

这个应该是vllm的问题，你可以在[vllm仓库](https://github.com/vllm-project/vllm/issues)询问，如果是glm的问题，我们会跟踪这个问题并在vllm仓库提交pr解决