InferLLM
InferLLM copied to clipboard
向量计算中使用CPU AVX指令,能否支持不使用AVX指令的版本
期待答复,谢谢
目前kernel中支持了avx2和avx版本,没有avx的机器目前会运行在naive的code中,也可以加sse的实现。