Zhiyu YUE
Zhiyu YUE
在关闭了qwen2的评测程序后好了,可能是资源挤占了
> @ZhiyuYUE hi, what your code of using endpoint `v1/chat/completions` service? You could refer to this example: https://lmdeploy.readthedocs.io/en/latest/serving/api_server_vl.html#integrate-with-openai @RunningLeon hi, I actually use the same method to post the request....
> 需要使用base64转码 网页请求是不用转base64的,本地才需要。后来换成lmdeploy官方镜像问题解决了
> > > 需要使用base64转码 > > > > > > 网页请求是不用转base64的,本地才需要。后来换成lmdeploy官方镜像问题解决了 > > 你好,遇到相同的问题了,可以给一个镜像链接嘛 docker hub直接搜lmdeploy就可以
> 多张图你是怎么处理的,我用这个格式穿入多张图,模型似乎只能注意到其中一张图 我也不太清楚多图应该怎么处理输入,模型只会看到 最后一张图