JayZhao315
Results
4
comments of
JayZhao315
You are using gradio version 3.50.2 这个版本可以
> > 您正在使用 gradio 版本 3.50.2 > > 这个版本可以 > > 运行起来占用了多少GPU显存 55g显存占用
@irexyc @czczup 您好, 我也想要使用api调用,我看下来lmdeploy不支持比如max_input_tiles参数设定,然后我基于您的文档中[how_to_quickstart_with_hf.md](https://github.com/OpenGVLab/InternVL/blob/main/document/how_to_quickstart_with_hf.md)这篇文档写了一个api. 但我发现和gradio服务的出来的结果不同,效果远没有Gradio页面上的好.我看到页面服务会基于模型拼接不同的prompt等参数,这有些超过我的能力了😭 请问是否有封装好的与Gradio一样的调用的api能够提供,万分感谢