zainlau

Results 4 issues of zainlau

HBM利用率是正常的,只有AIcore利用率为0

根据官网和博客上很多教程操作了一遍,都没解决; 为什么一个pip install就能解决的问题,非要搞一堆莫名其妙的问题

我们自研的推理引擎是基于vllm做了深度优化的,但是用metagpt跑2048游戏比vllm慢了七八分钟,这是哪的问题呢,理论上讲是应该比vllm更快的