MetaGPT icon indicating copy to clipboard operation
MetaGPT copied to clipboard

Published 20 hours ago • verified publisher icon geekan

自研推理引擎性能问题

Open zainlau opened this issue 2 weeks ago • 0 comments

我们自研的推理引擎是基于vllm做了深度优化的，但是用metagpt跑2048游戏比vllm慢了七八分钟，这是哪的问题呢，理论上讲是应该比vllm更快的

zainlau avatar Feb 10 '25 11:02 zainlau