CaffeModelCompression
CaffeModelCompression copied to clipboard
压缩后测试问题
你好,非常感谢您提供代码。虽然我在进行物体检测研究时,用您的代码将我的模型压缩了十倍。从100M压到了11M,测试的时候也能被caffe使用,,但是速度明显下降,测试一张图片要3.5秒,这是不可接受的,请问,这是什么原因造成的?有解决办法吗
@gavenswang 你测试的时候用的.caffemodel还是.npz
@YeTaoY 我用的.npz和.caffemodel文件都有进行测试的,速度都很慢。。而且只有这个.npz文件相对于原始的caffemodel有压缩。。而压缩后的.caffemodel文件相对于原始的caffemodel文件,在大小上没有变化。
@gavenswang caffemodel并没有改变模型的大小,虽然已经实现的量化,但是caffe的保存用的还是fp32的,真正被替换过存储方式的只有npz. 我好奇的是npz应该怎么用,可否推荐个使用方法(把它decode成caffemodel在用caffe测的方式不是我需要的)
压缩后就别用caffe了,人家论文原作者(Deep Compression)是用FPGA或者ASIC来使用压缩后的结构的