yolov5prune icon indicating copy to clipboard operation
yolov5prune copied to clipboard

Published 20 hours ago • verified publisher icon midasklr

剪枝之后batchsize 1 推理速度更慢，占用显卡更多。

Open huangzongmou opened this issue 3 years ago • 3 comments

剪枝之后batchsize 1 推理速度更慢，占用显卡更多。为什么模型参数减少了，占用资源更多？

huangzongmou avatar Dec 21 '21 08:12 huangzongmou

请问你解决这个问题了吗？我也遇到相同的问题。参数量和FLOPS都砍了50%结果推理速度还慢了一些

ZZZDark avatar May 04 '22 15:05 ZZZDark

您好！您的邮件已收到，尽快给你回复。谢谢                                                      黄总谋！

huangzongmou avatar May 04 '22 15:05 huangzongmou

好久没搞忘记了，你砍50%都是砍深层次的参数，计算量都是浅层比较大，所以砍50%只是可以砍的50%，实际能加速10%左右吧

------------------ 原始邮件 ------------------ 发件人: "Zhang @.>; 发送时间: 2022年5月4日(星期三) 晚上11:24 收件人: @.>; 抄送: @.>; @.>; 主题: Re: [midasklr/yolov5prune] 剪枝之后batchsize 1 推理速度更慢，占用显卡更多。 (Issue #66)

请问你解决这个问题了吗？我也遇到相同的问题。参数量和FLOPS都砍了50%结果推理速度还慢了一些

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***>

huangzongmou avatar May 05 '22 09:05 huangzongmou