retrieve模型不变的情况下，修改代码以使用其他模型（除了WebGLM和WebGLM-2B）是否可行呢？

[Danny-C-Auditore]

[Danny-C-Auditore]

通过在其他模型文件中更改auto_map字段是否可以达到更换模型的效果呢？

[hanyullai]

你好！如果想要使用其他AutoModelForSeq2SeqLM支持的模型，可以直接透过传入不同的checkpoint来完成，不过可能需要重新组织prompt。如果要使用其他AutoModelForSeq2SeqLM不支持的模型，得在model/modeling_webglm.py中进行修改。