Visualizer icon indicating copy to clipboard operation
Visualizer copied to clipboard

cache无内容的问题

Open ZHEGG opened this issue 3 years ago • 11 comments

我想查看transformerdecoderlayer里的attn,在主函数中get_local.activate(),但是cache中的['transformer_decoderlayer']中是[],我的模型结构是train中调用model,model中调用transformer

ZHEGG avatar Jan 10 '22 12:01 ZHEGG

您好,我也遇到类似问题,请问您解决了么

TIEHua avatar Feb 20 '22 19:02 TIEHua

检查一下模型是否是在visualizer之后import的?

YNCao avatar Feb 23 '22 04:02 YNCao

我也遇到类似问题,请问您解决了么

connieku avatar Apr 24 '22 05:04 connieku

我也遇到类似问题,请问您解决了么

抱歉,这个问题放置太久了,可能之前代码写的不好才出现的这个问题,现在我按照作者的方式cache内是可以有内容的,我觉得你可以检查一下你主函数与模型之间的调用关系。

ZHEGG avatar Apr 24 '22 06:04 ZHEGG

谢谢你的回复。能请你帮忙看看我的设置是否正确吗? Attn.txt

connieku avatar Apr 24 '22 06:04 connieku

可能嵌套太深了,不能把model作为参数传入其他的类。我是一开始向trainer里面传入了model,然后在trainer内部函数中cache为空。 后来直接在主函数中使用model,cache就有内容了

XuanchenLi avatar Jul 05 '22 08:07 XuanchenLi

我也有这个问题

userguazi avatar May 06 '23 09:05 userguazi

谢谢你的回复。能请你帮忙看看我的设置是否正确吗? Attn.txt

请问你解决了吗

userguazi avatar May 06 '23 09:05 userguazi

model不要eval,我改了之后就好了

wang149876 avatar Aug 22 '23 08:08 wang149876

检查一下你模型是不是在get_local.clear()之前就import进来了,我是这个问题

ZBox1005 avatar Mar 28 '24 14:03 ZBox1005

https://github.com/chenzhik/VisualizerX
可以用这位作者改进后的,在每个嵌套都加@get_local('varname')

Jiangdd0823 avatar Apr 15 '24 03:04 Jiangdd0823