MNN

MNN copied to clipboard

Integer Overflow Vulnerability in FileLoader::read() Leading to Memory Corruption

1

Dear Alibaba MNN Team, During our security audit of the MNN project, we have identified a potential integer overflow vulnerability in the `FileLoader::read()` method that could lead to memory corruption....

Asuk4

Can't convert from TFlite to MNN. NOT_SUPPORTED_OP: [ ARG_MAX ]

2

As the title states, when trying to convert a tflite model to mnn I get the following error: The device supports: i8sdot:1, fp16:1, i8mm: 0, sve2: 0, sme2: 0 Start...

bfar97

建议修改一下models的存放路径，不要存放在私有目录，否则不方便管理

2

qiaoranMC

QNN后端推理初始化失败

4

我按照下图的步骤，使用5月27号的master分支构建，带有QNN的Android库。指定MNN_FORWARD_NN，但是在创建session时，返回无法创建MNN_FORWARD_NN，使用了默认的CPU。测试机器为小米14（骁龙8Gen3）和小米12 pro（骁龙Gen1），都在高通支持QNN的SOC列表里。 想问下，除了下图所示的步骤，还需要配置什么吗？还是说目前的代码还无法使用QNN进行推理？ 

SeanYangyong

在android 端如何在多轮对话的时候，复用之前的对话的 kv cache

1

已经按照文档在配置文件中配置。没有产生效果

XTaoWang

Mnn 3.1.0 release init failed on Android 10

4

java.lang.UnsatisfiedLinkError: dlopen failed: cannot locate symbol "_Unwind_Resume" 升级到3.1.0之后 观测到部分 鸿蒙2、3的手机 基于安卓10 的 会报这个错误。之前的2.6.0release 没有这个问题.

balefashidu

什么时候可以调用Vulkan

1

我的手机不支持opencl

xiyue9637

Can we get the recognized speech original text from the audio?

1

Dear developers. Could we get the recognized speech original text from the audio in the Qwen2.5-Omni" and "Qwen2-Audio" model? So we can help user to verify if the AI assistant...

JedLee6

君正T31编译失败

2

配置命令：cmake -DMNN_BUILD_TOOLS=ON -DMNN_BUILD_BENCHMARK=ON -DCMAKE_SYSTEM_NAME=Linux -DCMAKE_SYSTEM_VERSION=1 -DCMAKE_C_COMPILER=mips-linux-gnu-gcc -DCMAKE_CXX_COMPILER=mips-linux-gnu-g++ -DCMAKE_INSTALL_PREFIX=./install/ -DMNN_LOW_MEMORY=ON -DMNN_ARM82=ON -DMNN_BUILD_SHARED_LIBS=OFF .. MIPS平台编译失败

maoyapeng

Linux系统使用vulkan未能启用gpu加速

1

一台H20的Ubuntu服务器显示有打印信息 The device supports: i8sdot:0, fp16:0, i8mm: 0, sve2: 0, sme2: 0 使用 interpreter->getSessionInfo(session, MNN::Interpreter::BACKENDS, backendType) 获得实际的 backend 确认是vulkan 实际推理速度远低于CPU，查看gpu占用0 cpu跑满了。 相同代码在Android上能正常运行，Windows也能跑满GPU，请问有什么解决的方向嘛？ | backend | (sec) | | --- |...

tumuyan