Llama-Chinese icon indicating copy to clipboard operation
Llama-Chinese copied to clipboard

Published 20 hours ago • verified publisher icon LlamaFamily

有人知道怎么在python上调用llama2吗

Open heyuwei1018 opened this issue 1 year ago • 2 comments

我llama2已经在本地化部署好了，用的是一个可视化页面text generation web ui，但是不知道怎么在python里调用llama2，达到通过python输入问题，输出答案的效果。

heyuwei1018 avatar Sep 15 '23 10:09 heyuwei1018

用 transformers 直接调

TengLi931128 avatar Sep 18 '23 06:09 TengLi931128

可以参考 reference huggingface

JimmyJIA-02 avatar Oct 13 '23 03:10 JimmyJIA-02