EasyEdit
EasyEdit copied to clipboard
关于wise.py
非常感谢工作的分享,很有启发!有两个问题想请教:
- 观察到论文和代码中只复制了一个层的weight,请问有考虑过优化两个层的weight吗?比如
transformer.h[7].mlp.c_fc.weight
和transformer.h[8].mlp.c_fc.weight
。如果想修改的话,主要在wise.py中修改吗? - 请问有考虑过引入bias吗?联合更新weight和bias