MNN icon indicating copy to clipboard operation
MNN copied to clipboard

[BUG] IOS APP 中 Qwen2.5-VL 多模态无法正确工作

Open davidlightmysterion opened this issue 6 months ago • 3 comments

如题,模型似乎读不到图片内容。编译方式完全按照教程进行的。

Image Image

davidlightmysterion avatar Jun 04 '25 04:06 davidlightmysterion

编译 mnn 时是否打开了 -DLLM_SUPPORT_VISION=true -DMNN_BUILD_OPENCV=true -DMNN_IMGCODECS=true

https://mnn-docs.readthedocs.io/en/latest/transformers/llm.html

jxt1234 avatar Jun 05 '25 03:06 jxt1234

编译 mnn 时是否打开了 -DLLM_SUPPORT_VISION=true -DMNN_BUILD_OPENCV=true -DMNN_IMGCODECS=true

https://mnn-docs.readthedocs.io/en/latest/transformers/llm.html

是按照这个链接来操作的:https://github.com/alibaba/MNN/blob/master/apps/iOS/MNNLLMChat/README-ZH.md

cd MNN/
sh package_scripts/ios/buildiOS.sh "-DMNN_ARM82=true -DMNN_LOW_MEMORY=true -DMNN_SUPPORT_TRANSFORMER_FUSE=true -DMNN_BUILD_LLM=true -DMNN_CPU_WEIGHT_DEQUANT_GEMM=true
-DMNN_METAL=ON
-DMNN_BUILD_DIFFUSION=ON
-DMNN_BUILD_OPENCV=ON
-DMNN_IMGCODECS=ON
-DMNN_OPENCL=OFF
-DMNN_SEP_BUILD=OFF
-DMNN_SUPPORT_TRANSFORMER_FUSE=ON"

看起来是缺少 DLLM_SUPPORT_VISION 这个参数了,我再试试看,感谢!

davidlightmysterion avatar Jun 05 '25 03:06 davidlightmysterion

试了添加 DLLM_SUPPORT_VISION 参数,但是还是一样的问题啊。

以下我现在的编译命令(用 ON 或者 true 都一样没效果)

sh package_scripts/ios/buildiOS.sh "-DMNN_ARM82=true -DMNN_LOW_MEMORY=true -DMNN_SUPPORT_TRANSFORMER_FUSE=true -DMNN_BUILD_LLM=true -DMNN_CPU_WEIGHT_DEQUANT_GEMM=true
-DMNN_METAL=ON
-DMNN_BUILD_DIFFUSION=ON
-DMNN_BUILD_OPENCV=ON
-DMNN_IMGCODECS=ON
-DMNN_OPENCL=OFF
-DMNN_SEP_BUILD=OFF
-DMNN_SUPPORT_TRANSFORMER_FUSE=ON
-DLLM_SUPPORT_VISION=ON
-DLLM_SUPPORT_AUDIO=ON
-DMNN_BUILD_AUDIO=ON"

davidlightmysterion avatar Jun 05 '25 07:06 davidlightmysterion

Marking as stale. No activity in 60 days.

github-actions[bot] avatar Aug 04 '25 09:08 github-actions[bot]