hitachinsk
CANnot load pretrain
Please check the vit_name, and it should vit_b if you don't use SAMed_h. Otherwise, it should be vit_h.
学者您好，
你们的工作很优秀，代码很清晰，十分感谢你们做的贡献！ 但是好像epoch_159里面才有关于lora部分的参数，我们在别的任务上用的时候，是在vit-b的参数上重头开始训练lora部分吗？ 还有一个问题就是出现了loss不下降问题，在使用sgd和adaw的情况下。请问是必须使用warm_up才能训动吗？ 如果您能回复我将异常感谢！
一名学者
2981431354 @.***
------------------ 原始邮件 ------------------ 发件人: "hitachinsk/SAMed" @.>; 发送时间: 2023年5月14日(星期天) 下午2:51 @.>; 抄送: "Tianyu @.@.>; 主题: Re: [hitachinsk/SAMed] CANnot load pretrain (Issue #1)
Please check the vit_name, and it should vit_b if you don't use SAMed_h. Otherwise, it should be vit_h.
— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***>
你好，epoch_159指的是我们在模型微调到第159个epoch的时候保存了LoRA的参数。如果你需要自己微调的话，是需要自己从头训练LoRA部分的。其次，我们发现warmup对模型收敛十分重要，当然你可以调一调学习率使得模型收敛，但是似乎不及warmup有效。
I have achieved a good result on our task and I would like to express my sincere appreciation to the author for their contribution! This is an extremely excellent code, which has been very helpful to us!
您好！ 我看到你们又提供了samed-h结果，请问这个是在您公布的原始samed源代码的模型下，把segment-anything部分换成您samed-h文件夹里的那个就行了嘛？
2981431354 @.***
------------------ 原始邮件 ------------------ 发件人: "hitachinsk/SAMed" @.>; 发送时间: 2023年5月15日(星期一) 中午11:14 @.>; 抄送: "Tianyu @.@.>; 主题: Re: [hitachinsk/SAMed] CANnot load pretrain (Issue #1)
你好，epoch_159指的是我们在模型微调到第159个epoch的时候保存了LoRA的参数。如果你需要自己微调的话，是需要自己从头训练LoRA部分的。其次，我们发现warmup对模型收敛十分重要，当然你可以调一调学习率使得模型收敛，但是似乎不及warmup有效。
— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***>
你好，我很高兴我的代码可以帮助你们在你们的任务上取得很好的结果~
至于SAMed_h，我已经上传相关代码到SAMed_h文件夹下（就在本仓库根目录里面，有个SAMed_h文件夹），具体的代码实现以及训练和测试的流程请到该文件夹下查看。
并且请注意一点，SAMed_h需要的计算资源更大，我们使用一块Tesla A100 (80G)进行训练。如果你的计算资源有限，请不要盲目使用SAMed_h，即使SAMed_h可以取得一个更好的结果。
Hello author, I use the Segment Anything of SAMed_h, but I load the weight of vit-b, is there any difference between this and the weight of vit-b loaded on SAMed Segment Anything
