TensorRT-Alpha
TensorRT-Alpha copied to clipboard
FeiYull
双线性插值和数学理论公式差别大
我保存了c++和py在双线性插值后的图片，发现预测图片实际有所偏差
，目标点（122，147）根据数学公式算出核心点应该是（121.30397727272727，138.20738636363635），而在kernel中
w我输出了结果，
在填充方向y上有较大的误差，对于x方向的误差为scale在python和c++的精度不同，在pose模型上没有太大问题，但是在我写的obb的部署中发现预测结果有较大误差
目前我是自己重新写了一下坐标转换，目前和python的resize结果最多差3个像素值
更新，看了opencv的源码改写完后只有边界部分有1个像素值的误差