AllentDan

Results 78 comments of AllentDan

Closing it for no activity for a long time, feel free to reopen it if it is still an issue for you.

@JohnHerry 可以作为对象传参啊,不行字符串都行,自己写好映射函数

能转torchscript就能的

能,预先生成同样模型的onnx,把权重赋值进去即可

1. 也就比python快一些些,主要是满足某些c++项目 2. 没试过,也可以拷贝权重,然后torch-tensorrt加速,可行性应该也ok。 3. 没demo,这种要花时间,都没时间弄。但是可行性是验证过的。

这些问题都有遇到,libtorch的api搭建出的网络如果直接torch::save的话确实不同于jit模型,本质上也是不同的类其实。可行性OK是我了解到有公司是这样做的,但是我目前没有demo开源出来。

onnx模型预先是保存好的,结构和libtorch的一致,然后权重更新进去。固定了模型就没几行代码

而且也可以写得通用,只是预先要有onnx模型文件。

我也没具体代码,只知道可行性.....最近都没时间弄这些。遍历下api吧

可以代码解决的问题.....自己探索下吧