seanxcwang
seanxcwang
可以把模型发一下,可能部分op没转过来,另外tnn只支持对称量化的模型
目前不支持
试下feature_demo_stream那个分支,examples/base/object_detector_yolo.cc,ProcessSDKOutput这个函数里的output换成你自己模型的output
模型的路径对吗
DEBUG模式在softmax确实是有问题的,换成release模式应该是好的,具体原因还没来得及分析
#1682 在这个pr里应该把问题修复了,如果可能的话可以再试一下
再补充点细节,比如commit id,具体操作步骤,我刚用x64 native tools prompt编译tag0.3,是ok的 
> 使用rknpu遇到一些op不支持的情况,比如upsample. 可否在TNN中自定义该op? 目前是不支持,新的ddk应该是有这个层的,只是rk那边没有更新
 got an error when test on this branch and add `AT_DISPATCH_CASE(at::ScalarType::Byte, __VA_ARGS__) ` at `csrc/dispatch_utils.h:12` may not a good way to fix this error
@zhaoyang-star have used new pr for testing,no other errors were found