xinyiqin

模型推理代码

4

您好，想求一份Agent-flan的推理代码！ p.s 貌似模型中没有定义template中的special tokens比如这种，ി\n，不清楚推理中具体是怎么处理的。 以及template中好像没有定义Function的。