[BUG] IOS APP 中 Qwen2.5-VL 多模态无法正确工作
如题,模型似乎读不到图片内容。编译方式完全按照教程进行的。
编译 mnn 时是否打开了 -DLLM_SUPPORT_VISION=true -DMNN_BUILD_OPENCV=true -DMNN_IMGCODECS=true
https://mnn-docs.readthedocs.io/en/latest/transformers/llm.html
编译 mnn 时是否打开了 -DLLM_SUPPORT_VISION=true -DMNN_BUILD_OPENCV=true -DMNN_IMGCODECS=true
https://mnn-docs.readthedocs.io/en/latest/transformers/llm.html
是按照这个链接来操作的:https://github.com/alibaba/MNN/blob/master/apps/iOS/MNNLLMChat/README-ZH.md
cd MNN/
sh package_scripts/ios/buildiOS.sh "-DMNN_ARM82=true -DMNN_LOW_MEMORY=true -DMNN_SUPPORT_TRANSFORMER_FUSE=true -DMNN_BUILD_LLM=true -DMNN_CPU_WEIGHT_DEQUANT_GEMM=true
-DMNN_METAL=ON
-DMNN_BUILD_DIFFUSION=ON
-DMNN_BUILD_OPENCV=ON
-DMNN_IMGCODECS=ON
-DMNN_OPENCL=OFF
-DMNN_SEP_BUILD=OFF
-DMNN_SUPPORT_TRANSFORMER_FUSE=ON"
看起来是缺少 DLLM_SUPPORT_VISION 这个参数了,我再试试看,感谢!
试了添加 DLLM_SUPPORT_VISION 参数,但是还是一样的问题啊。
以下我现在的编译命令(用 ON 或者 true 都一样没效果)
sh package_scripts/ios/buildiOS.sh "-DMNN_ARM82=true -DMNN_LOW_MEMORY=true -DMNN_SUPPORT_TRANSFORMER_FUSE=true -DMNN_BUILD_LLM=true -DMNN_CPU_WEIGHT_DEQUANT_GEMM=true
-DMNN_METAL=ON
-DMNN_BUILD_DIFFUSION=ON
-DMNN_BUILD_OPENCV=ON
-DMNN_IMGCODECS=ON
-DMNN_OPENCL=OFF
-DMNN_SEP_BUILD=OFF
-DMNN_SUPPORT_TRANSFORMER_FUSE=ON
-DLLM_SUPPORT_VISION=ON
-DLLM_SUPPORT_AUDIO=ON
-DMNN_BUILD_AUDIO=ON"
Marking as stale. No activity in 60 days.