MiniCPM-V
MiniCPM-V copied to clipboard
MiniCPM-V 4.5 在 OpenWebUI 不支持视频理解?
无论是:
pip install vllm==0.10.1
pip install vllm[video]
还是使用作者您提供的vllm版本,都不支持这个--limit-mm-per-prompt image=5,video=2 参数呢:
vllm serve /openbayes/input/input0/MiniCPM-V-4_5 --dtype auto --max-model-len 4096 --api-key token-abc123 --gpu_memory_utilization 0.9 --trust-remote-code --limit-mm-per-prompt image=5,video=2
INFO 08-28 09:52:25 [__init__.py:241] Automatically detected platform cuda.
usage: vllm serve [model_tag] [options]
vllm serve: error: argument --limit-mm-per-prompt: Value image=5,video=2 cannot be converted to <function loads at 0x7f0cd5906660>.
是的,我们没有额外适配,是否支持视频理解要看openwebui社区。