CaffeModelCompression icon indicating copy to clipboard operation
CaffeModelCompression copied to clipboard

压缩后测试问题

Open gavenswang opened this issue 7 years ago • 4 comments

你好,非常感谢您提供代码。虽然我在进行物体检测研究时,用您的代码将我的模型压缩了十倍。从100M压到了11M,测试的时候也能被caffe使用,,但是速度明显下降,测试一张图片要3.5秒,这是不可接受的,请问,这是什么原因造成的?有解决办法吗

gavenswang avatar Jan 10 '18 08:01 gavenswang

@gavenswang 你测试的时候用的.caffemodel还是.npz

YeTaoY avatar Feb 02 '18 08:02 YeTaoY

@YeTaoY 我用的.npz和.caffemodel文件都有进行测试的,速度都很慢。。而且只有这个.npz文件相对于原始的caffemodel有压缩。。而压缩后的.caffemodel文件相对于原始的caffemodel文件,在大小上没有变化。

gavenswang avatar Feb 02 '18 08:02 gavenswang

@gavenswang caffemodel并没有改变模型的大小,虽然已经实现的量化,但是caffe的保存用的还是fp32的,真正被替换过存储方式的只有npz. 我好奇的是npz应该怎么用,可否推荐个使用方法(把它decode成caffemodel在用caffe测的方式不是我需要的)

YeTaoY avatar Feb 05 '18 03:02 YeTaoY

压缩后就别用caffe了,人家论文原作者(Deep Compression)是用FPGA或者ASIC来使用压缩后的结构的

guo253 avatar Mar 07 '18 07:03 guo253