MetaRunning
Results
2
comments of
MetaRunning
同希望增加
> > RT > > 使用加速方法，简单的可以试试vllm：https://github.com/LlamaFamily/Llama-Chinese/tree/main/inference-speed/GPU/vllm_example 好的，多谢。我试下看下效果。