MiniCPM-V icon indicating copy to clipboard operation
MiniCPM-V copied to clipboard

[vllm] - <title>使用vllm api server 进行视频推理

Open justfuwei opened this issue 1 year ago • 2 comments

起始日期 | Start Date

No response

实现PR | Implementation PR

No response

相关Issues | Reference Issues

No response

摘要 | Summary

目前能使用vllm api server 进行视频推理吗,只看到了使用vllm api server进行图片推理的示例

基本示例 | Basic Example

缺陷 | Drawbacks

未解决问题 | Unresolved questions

No response

justfuwei avatar Aug 16 '24 06:08 justfuwei

暂时还不能,这个要等 vllm 官方也做一些支持才行...

HwwwwwwwH avatar Aug 16 '24 10:08 HwwwwwwwH

mark

HaishengLiang avatar Aug 21 '24 00:08 HaishengLiang