MNN icon indicating copy to clipboard operation
MNN copied to clipboard
verified publisher icon alibaba

在android 端如何在多轮对话的时候，复用之前的对话的 kv cache

Open XTaoWang opened this issue 7 months ago • 1 comments

Image Image

已经按照文档在配置文件中配置。没有产生效果

XTaoWang avatar May 29 '25 07:05 XTaoWang

可以先用 llm_demo 的命令行聊天试试，resue_kv 是可以新会话时候不用传之前的会话历史，现在 android app 还没有实现。

Juude avatar May 30 '25 04:05 Juude

Marking as stale. No activity in 60 days.

github-actions[bot] avatar Jul 29 '25 09:07 github-actions[bot]