xinyujituan
xinyujituan
可以肯定的是模型在转换后预测才出的问题，转换前用tools里的infer是没有问题的
而且用gpu还会报错
> 你好，提出可以解决一些样例的数据（包括转换前后）、方便和排查问题？另外，GPU报错内容也辛苦一下 文件太大了我上传不了 你们只需要训练下solov2然后用deploy里的python infer测试下就知道了
outs = _C_ops.where_index(x) OSError: (External) CUDA error(700), an illegal memory access was encountered. [Hint: 'cudaErrorIllegalAddress'. The device encountered a load or store instruction on an invalid memory address. This leaves...
转换模型后预测矩阵的结果是不对的 貌似做了某些仿射变换？ 现在就这俩问题
链接：https://pan.baidu.com/s/1VKlWbTYPjSZ8-l7SkSMuXQ?pwd=fic1 提取码：fic1 --来自百度网盘超级会员V5的分享 我上传了训练的样本
> 辛苦用[solov2](https://github.com/PaddlePaddle/PaddleDetection/tree/release/2.4/configs/solov2)页面上的直接预模型在你的环境下直接下测试是否出错呢。另外训练文件大的话可以考虑提供一个过时的子集，帮助解决问题是否在数据处理过程中。 再次强调下 训练后直接预测是没问题的 但是经过 export_model.py -c configs/solov2/solov2_r50_enhance_coco.yml --output_dir=./output_inference -o weights=./output/solov2_r50_enhance_coco/model_final 转换模型到部署模型之后用deploy/python/infer.py --model_dir=./output_inference/solov2_r50_enhance_coco --image_file=./2.jpg --threshold=0.5 才会出这个问题
> 辛苦用[solov2](https://github.com/PaddlePaddle/PaddleDetection/tree/release/2.4/configs/solov2)页面上的直接预模型在你的环境下直接下测试是否出错呢。另外训练文件大的话可以考虑提供一个过时的子集，帮助解决问题是否在数据处理过程中。 请问大概多久会有回复
在visualize.py的第187行 加了个 mask = np.rot90(mask) 就好了 的确是个bug
现在就是gpu的问题没有解决