edgemoe

[9yc]

关注到论文EdgeMOE中贴的代码链接也指向这个仓库，相关部分在哪里呢

[yirongjie]

https://github.com/UbiquitousLearning/mllm/blob/main/examples%2Fdemo_minicpm_moe_mbm.cpp

[Lucyliu1234]

https://github.com/UbiquitousLearning/mllm/blob/main/examples%2Fdemo_minicpm_moe_mbm.cpp

你好，我在运行demo_minicpm_moe_mbm时，[A]输出是空字符，运行demo_minicpm_moe_mbp和demo_minicpm_moe时输出正常，请问你知道这是什么原因吗？

[chenghuaWang]

cc @yirongjie

[Lucyliu1234]

https://github.com/UbiquitousLearning/mllm/blob/main/examples%2Fdemo_minicpm_moe_mbm.cpp

你好，我在运行demo_minicpm_moe_mbm时，[A]输出是空字符，运行demo_minicpm_moe_mbp和demo_minicpm_moe时输出正常，请问你知道这是什么原因吗？

src\models\minicpm_moe\mbm\modeling_minicpm_moe_mbm.hpp 第263行删去if语句中的判断条件 Module::llm_model_ptr->doLoad 可正常进行推理