PaddleSlim icon indicating copy to clipboard operation
PaddleSlim copied to clipboard

目标检测模型的敏感度分析报错

Open ZRS0326 opened this issue 2 years ago • 4 comments

报错信息: ValueError: (InvalidArgument) Currently, Tensor.indices() only allows indexing by Integers, Slices, Ellipsis, None, tuples of these types and list of Bool and Integers, but received str in 1th slice item (at ..\paddle\fluid\pybind\imperative.cc:645) 代码: pruner = L2NormFilterPruner(trainer.model,[1,3,300,300]) pruner.sensitive(eval_func=eval_fn,sen_file="./sen.pickle") 改代码的模型到底应该传入怎样的参数才能使用,针对目标检测模型。 目前的参考示例全是针对分类的模型,能否提供一下思路

ZRS0326 avatar Jun 30 '22 08:06 ZRS0326

这个报错感觉就是模型读取的问题,官方又没有任何相关的信息,关于对目标检测模型的动态图敏感度分析

ZRS0326 avatar Jun 30 '22 08:06 ZRS0326

我也遇到了一样的问题,请问您现在解决了吗

liopos avatar Jun 02 '23 13:06 liopos

anyone??? Same problem here.

Rishi-NF avatar Aug 24 '23 10:08 Rishi-NF

抱歉回复延迟。

这里建议贴一下完整的报错栈,我理解问题可能出在某个API调用的传参错位了,这可能是由于Paddle和PaddleSlim版本不匹配引起的。看到报错栈会有比较细节的建议。

minghaoBD avatar Feb 06 '24 04:02 minghaoBD