finsary

SMOKE python部署问题（trt加速推理）

7

os：ubuntu 18.04 paddle: 2.4.0 python 3.6 cuda 10.2 cudnn 7.6.5 tensorrt 7.0.0.11在python部署的执行TRT部署的步骤中，加载--dynamic_shape_file指定的模型动态shape信息，使用FP32精度进行预测，加上关键字--use_gpu --use_trt后，报错(部分）： I1212 15:26:12.890170 18103 tensorrt_subgraph_pass.cc:244] --- detect a sub-graph with 4 nodes I1212 15:26:12.895742 18103 tensorrt_subgraph_pass.cc:560] Prepare TRT...

关于模型加载

2

您好，我在加载cityscapes_M_pretrained预训练模型做**测试**时，发现logger中显示我load 0 parameters，于是我找到下面的代码 if imgnet_pretrained: pretrained_state = torch.load(cfg.MODEL.PRETRAINED, map_location='cpu')['state_dict'] model_dict = model.state_dict() pretrained_state = {k: v for k, v in pretrained_state.items() if (k in model_dict and v.shape == model_dict[k].shape)} model_dict.update(pretrained_state)...

如题