吕文玉
吕文玉
prior_box设置int8 但是运算的时候是需要float 可以试一下会不会强制转化
有例子嘛 发个看看
你好 有模型训练的结果嘛
数据集一共有多少类
一类的话为啥会有1 不应该只有个0嘛 ,, 你配置文件里写的是几
这 确定eval数据集里只有一个类嘛 , train数据集训练 train测试有没有问题
数据量有多少 可以加载coco上的预训练再试试
看提示像openvino不支持goup norm, 建议你改下模型(比如 使用bn替代gn) 或者 去openvino里提问下
设置下 `export FLAGS_allocator_strategy=naive_best_fit` 再试试
默认是16,`batchsize减小对rtdetr的性能` 建议先按照`1e-4`跑试一下