Visualizer
Visualizer copied to clipboard
cache无内容的问题
我想查看transformerdecoderlayer里的attn,在主函数中get_local.activate(),但是cache中的['transformer_decoderlayer']中是[],我的模型结构是train中调用model,model中调用transformer
您好,我也遇到类似问题,请问您解决了么
检查一下模型是否是在visualizer之后import的?
我也遇到类似问题,请问您解决了么
我也遇到类似问题,请问您解决了么
抱歉,这个问题放置太久了,可能之前代码写的不好才出现的这个问题,现在我按照作者的方式cache内是可以有内容的,我觉得你可以检查一下你主函数与模型之间的调用关系。
谢谢你的回复。能请你帮忙看看我的设置是否正确吗? Attn.txt
可能嵌套太深了,不能把model作为参数传入其他的类。我是一开始向trainer里面传入了model,然后在trainer内部函数中cache为空。 后来直接在主函数中使用model,cache就有内容了
我也有这个问题
model不要eval,我改了之后就好了
检查一下你模型是不是在get_local.clear()之前就import进来了,我是这个问题
https://github.com/chenzhik/VisualizerX
可以用这位作者改进后的,在每个嵌套都加@get_local('varname')