ChatGLM-Tuning
ChatGLM-Tuning copied to clipboard
如何做batchsize>1的infer
试了一下bs>1做infer,结果好像和1的时候变化有点大