xingjinglu

Results 3 issues of xingjinglu

现在是在mac上,通过 project/ios/下的项目直接打开进行编译。现在的问题: 1)编译出来的MNN库大小是8.1MB,比 2.8.0 release的版本的要大; 2)执行llm推理时,会存在占用内存过大被杀死的问题; 但是使用下面版本的MNN库,就可以正常图例qwen1.8b-int8模型,能否提供一下编译mnn_2.8.0_ios_llm.zip 的方法。 https://github.com/alibaba/MNN/releases/download/2.8.0/mnn_2.8.0_ios_llm.zip

stale

The below addresses works git clone https://github.com/NervanaSystems/neon.git git clone https://github.com/openai/openai-gemm.git