Jinde.Song
Jinde.Song
this has been fixed in 0.5.1.2
当前不支持，请问这个需求用来干嘛的？
> 也想要这个功能,手机自带离线模型以后,开放接口给外部其他程序调用,得到离线版本的大模型,感觉有些小游戏可以用这种分布式的能力实现一些有趣的效果 root 的话，用视觉模型应该做不少事情。 没有 root 能做的事情有限吧
现在命令行可以运行，但是我们可能要适配下 omni ,适配好后把文档放出来
MNN Chat App now supports show model size in 0.4.4
可以先用 llm_demo 的命令行聊天试试，resue_kv 是可以新会话时候不用传之前的会话历史，现在 android app 还没有实现。
cpu 跑的时候没问题么，什么版本的
@wangzhaode
在计划中了，会提供的
本地模型我们会增加个路径，只要 push 到相关路径即可运行本地模型。 如果要分享给其他用户使用，可以直接在 github 上贴出你们的模型链接，运行截图等信息。 合适的话我们可以提供给其他用户使用。