zainlau
Results
4
issues of
zainlau
HBM利用率是正常的,只有AIcore利用率为0
根据官网和博客上很多教程操作了一遍,都没解决; 为什么一个pip install就能解决的问题,非要搞一堆莫名其妙的问题
参考武汉AICC的镜像仓库
我们自研的推理引擎是基于vllm做了深度优化的,但是用metagpt跑2048游戏比vllm慢了七八分钟,这是哪的问题呢,理论上讲是应该比vllm更快的