yolov3-channel-and-layer-pruning icon indicating copy to clipboard operation
yolov3-channel-and-layer-pruning copied to clipboard

Published 20 hours ago • verified publisher icon tanluren

compact_conv.weight.data = tmp[out_channel_idx, :, :, :].clone()报错

Open WenlongL opened this issue 5 years ago • 6 comments

你好，我在执行layer_channel_prune.py时出现了报错： /pytorch/aten/src/ATen/native/cuda/IndexKernel.cu:60: lambda ->auto::operator()(int)->auto: block: [32,0,0], thread: [87,0,0] Assertion index >= -sizes[i] && index < sizes[i] && "index out of bounds" failed. 请问有人知道原因吗

WenlongL avatar Dec 10 '19 02:12 WenlongL

你好，可以贴一下完整的截图么，包括你使用的命令

tanluren avatar Dec 10 '19 05:12 tanluren

我们这边是cuda9.0 Pytroch1.1 与cuda10.0 pytorch1.2 是好的 报错显示的是cuda的问题

zbyuan avatar Dec 10 '19 05:12 zbyuan

使用的命令： QQ截图20191210141736 报错： 2 我这里用的是自己的数据集，是一个8类物体的检测任务

WenlongL avatar Dec 10 '19 06:12 WenlongL

我使用的是pytorch 1.3.1 使用的cuda9.2

WenlongL avatar Dec 10 '19 06:12 WenlongL

OK，已沟通，自定义的cfg，题主已改代码匹配，棒

tanluren avatar Dec 10 '19 17:12 tanluren

@WenlongL 可以说一下具体更改了什么吗？代码匹配指的是？

mrsempress avatar Nov 18 '20 11:11 mrsempress