grps_trtllm
grps_trtllm copied to clipboard
编译trtllm问题
作者,请问你编译trtllm有没有指定-D_GLIBCXX_USE_CXX11_ABI这个参数,但是如果指定-D_GLIBCXX_USE_CXX11_ABI=0的话就和我的opencv库冲突了
我用你原始的镜像里面的trtllm库倒是都是-D_GLIBCXX_USE_CXX11_ABI=1的
我的gcc版本也挺高,然后我用的是trtllm源码编译,如果用默认的参数的话编出来都是-D_GLIBCXX_USE_CXX11_ABI=0的
我这边直接用的官方提供的triton trtllm镜像作为基础镜像,里面自带了trtllm so,所以不涉及trtllm源码再编译,不过我看了下自带的trtllm so对应上面参数应该是打开的。