Ultra-Fast-Lane-Detection-v2 icon indicating copy to clipboard operation
Ultra-Fast-Lane-Detection-v2 copied to clipboard

开源模型训练精度问题

Open ycdhqzhiai opened this issue 3 years ago • 1 comments

@cfzd 请教下readme里面开源的culane_res18.pth模型是使用git仓库里面代码训练的吗,我这边碰见的问题是

  • 使用culane_res18.pth转onnx然后转tensorrt,fp16和fp32结果都没有问题
  • 用git仓库训练自己的数据集,生成model_best.pth转tensorrt,fp32结果没问题,fp16结果完全不对

我自己只是换了数据集,其他部分保持不动,使用相同脚本将开源模型和自己训练的模型转成onnx,再转tensorr,但是2个模型在fp16下结果完全不同。 我想问下作者的culane_res18.pth模型是否有过特殊处理

ycdhqzhiai avatar Oct 11 '22 10:10 ycdhqzhiai

@ycdhqzhiai 你能拿到的代码就是我所有的代码了,没有任何保留,也没有任何特殊处理,我觉得可能还是后续工具链的问题吧,尤其是fp32也没问题。

cfzd avatar Oct 18 '22 12:10 cfzd