InferLLM icon indicating copy to clipboard operation
InferLLM copied to clipboard

向量计算中使用CPU AVX指令,能否支持不使用AVX指令的版本

Open kungrainbow opened this issue 2 years ago • 1 comments

期待答复,谢谢

kungrainbow avatar Jun 02 '23 12:06 kungrainbow

目前kernel中支持了avx2和avx版本,没有avx的机器目前会运行在naive的code中,也可以加sse的实现。

chenqy4933 avatar Jun 04 '23 12:06 chenqy4933