pengzinuo

train error

2

作者您好 我在运行train时发生了以下错误| ../aten/src/ATen/native/cuda/Loss.cu:92: operator(): block: [32,0,0], thread: [32,0,0] Assertion `input_val >= zero && input_val = zero && input_val = zero && input_val = zero && input_val = zero && input_val...

about pretrained

2

作者你好，我认为你的工作非常令人振奋，麻烦请问一下，我看代码里面并没有加载mamba的预训练，如果使用的话，结果会不会更好呢

测试过程中模型加载有问题 随机种子没变 但是效果达不到原来训练得到的最好模型效果

9

作者您好，在我测试数据集isic2017过程中，拿以前的模型权重却发现和以前达到的效果不一样，我发现您放在了cpu上，我去掉这个，效果有提升，但还是不如之前 首先我检查了模型参数是否匹配 odict_keys(['module.encoder1.0.weight', 'module.encoder1.0.bias', 'module.encoder2.0.weight', 'module.encoder2.0.bias', 'module.encoder3.0.weight', 'module.encoder3.0.bias', 'module.encoder4.0.skip_scale', 'module.encoder4.0.norm.weight', 'module.encoder4.0.norm.bias', 'module.encoder4.0.mamba.A_log', 'module.encoder4.0.mamba.D', 'module.encoder4.0.mamba.in_proj.weight', 'module.encoder4.0.mamba.conv1d.weight', 'module.encoder4.0.mamba.conv1d.bias', 'module.encoder4.0.mamba.x_proj.weight', 'module.encoder4.0.mamba.dt_proj.weight', 'module.encoder4.0.mamba.dt_proj.bias', 'module.encoder4.0.mamba.out_proj.weight', 'module.encoder4.0.proj.weight', 'module.encoder4.0.proj.bias', 'module.encoder5.0.skip_scale', 'module.encoder5.0.norm.weight', 'module.encoder5.0.norm.bias', 'module.encoder5.0.mamba.A_log', 'module.encoder5.0.mamba.D', 'module.encoder5.0.mamba.in_proj.weight', 'module.encoder5.0.mamba.conv1d.weight', 'module.encoder5.0.mamba.conv1d.bias',...

train error

4

作者您好，我在运行过程中发生了以下错误： val epoch: 19, loss: 0.6657 train: epoch 20, iter:0, loss: 0.7179, lr: 0.0006872216535789154 train: epoch 20, iter:20, loss: 0.5572, lr: 0.0006872216535789154 train: epoch 20, iter:40, loss: 0.5618, lr: 0.0006872216535789154...