关于cpp部署

[SandroChen]

你好，想请教一下怎么对原生的python项目做cpp的部署？就像你这样用cpp部署chatglm，我也想对自己的项目进行cpp部署，我只知道一开始需要转换成script model，后面可以用libtorch在c++里面加载，想问一下你是用这种方式的吗？如果不是的话，有什么更好的办法？

[hfyydd]

chatglm.cpp 是用ggml写的

[li-plus]

chatglm.cpp 不是 pytorch custom op，不依赖 pytorch 了。c++ 部署的话应该可以直接依赖这个项目编译？