Joway Sun

原版LLaMA对中文的支持非常有限，BELLE有做中文词表扩充吗

1

据说原版 LLaMa的tokenizer只支持700多个中文

官网给的是 f"### Instruction:{prompt.strip()} ### Response:" 但是LLaMA-Efficient-Tuning项目给的模板是："User: {{query}}\nBot: " ``` r""" Supports: https://github.com/CVI-SZU/Linly """ register_template( name="linly", prefix=[], prompt=[ "User: {{query}}\nBot: " ], sep=[ "\n" ], stop_words=[], use_history=True ) ``` 到底是哪一种？我微调的时候用第一个模板，效果就是狗屎，用第二个正常

padding 的方向搞错了

1

llama 是 padding left