徐铭远

考虑加一下deepspeed吗？

1

后续有加deppspeed的计划吗，我看目前llama的参数是冻结的，试了下放开训的话a100的卡batchsize是1都跑不动

Fix torch.rfft and torch.irfft import problems. Support both origin torch version and version 1.1.0

图像的指标看起来掉了很多

2

  想问下这都是图像尺寸带来的损失吗？llava发布的结果是336的size，languagebind都是224的，有考虑发布更大尺寸的基座模型吗