上下文推理时速度会变慢，请问应该怎么解决？

[youranjvshi123]

模型转换的是q4_0的，在执行examples/cli_demo.py -m chatglm-ggml.bin -i 时，从第二轮对话开始推理速度就会变的越来越慢，请问应该怎么解决？

[Wannazl]

so eazy ! 优化下代码就行了

[youranjvshi123]

so eazy ! 优化下代码就行了

大神，请问代码应该怎么优化？