grps_trtllm icon indicating copy to clipboard operation
grps_trtllm copied to clipboard

编译trtllm问题

Open m-wei opened this issue 9 months ago • 3 comments

作者,请问你编译trtllm有没有指定-D_GLIBCXX_USE_CXX11_ABI这个参数,但是如果指定-D_GLIBCXX_USE_CXX11_ABI=0的话就和我的opencv库冲突了

m-wei avatar Mar 05 '25 08:03 m-wei

我用你原始的镜像里面的trtllm库倒是都是-D_GLIBCXX_USE_CXX11_ABI=1的

m-wei avatar Mar 05 '25 08:03 m-wei

Image 我的gcc版本也挺高,然后我用的是trtllm源码编译,如果用默认的参数的话编出来都是-D_GLIBCXX_USE_CXX11_ABI=0的

m-wei avatar Mar 05 '25 09:03 m-wei

我这边直接用的官方提供的triton trtllm镜像作为基础镜像,里面自带了trtllm so,所以不涉及trtllm源码再编译,不过我看了下自带的trtllm so对应上面参数应该是打开的。

zhaocc1106 avatar Mar 06 '25 04:03 zhaocc1106