是否会有deepspeed加速训练和推理过程呢？

[heyday111]

现在用tuoling摘要，每个对话需要运行15s才能有结果，希望后续能推出多gpu加速后的推理。