FeiYull

icon location HK

Results 80 comments of FeiYull

warning:[E] [TRT] 3: [runtime.cpp::~Runtime::346] Error Code 3: API Usage Error (Parameter check failed at: runtime/rt/runtime.cpp::~Runtime::346, condition: mEngineCounter.use_count() == 1. Destroying a runtime before destroying deserialized engines created by the runtime leads to undefined behavior.

reference: https://github.com/FeiYull/TensorRT-Alpha/issues/91#issuecomment-1970319941 FeiYull ***@***.*** ------------------ Original ------------------ From: Myreaeee ***@***.***> Date: Thu,Mar 7,2024 5:21 PM To: FeiYull/TensorRT-Alpha ***@***.***> Cc: FeiYull ***@***.***>, Author ***@***.***> Subject: Re: [FeiYull/TensorRT-Alpha] warning:[E] [TRT] 3:[runtime.cpp::~Runtime::346] Error Code...

yolov8原网络改进

@Yi-hash1 应该没问题

Classified networks deploy

@huangqi111 do it later

关于多batch推理问题

@1511827481zzh 如果一次推理四张图，它们宽高又不一致，甚至是未知的，就需要在循环中动态申请内存，较为耗时。可以尝试提前申请内存，并设置最大内存分配，然后推理，注意：每张图的warpAffine矩阵都需要单独计算。

多线程运行，速度增加

可能是线程组塞，考虑一个engine下面创建多个context，每个contxet对应一个线程

atomicAdd未定义

@yy-jarvis 不影响，IDE智能提示问题

yolov8 obb tensorrt好像还没有更新

近期更新

Segmentation fault (core dumped)

@yancccc 建议从输入图片开始debug

decode_yolov8_pose.cu中的一点问题

@scteam1994 40行判断是否是person，41行是判断是否 keep

yolov8s.trt 为和视频推理耗时比推理图片耗时要低

@jiamfeng 是正常的，例如batch_size=4，推理四张图，平均每帧耗时为11.2ms/4=2.8ms