RUL

RUL copied to clipboard

AttMoE代码问题——未提供修改后的MoE模型代码

1

 这里是MoE是用的`https://github.com/XiuzeZhou/mixture-of-experts`这个代码吗？也就是`https://github.com/davidmrau/mixture-of-experts`。但是你在`AttMoE-NASA.ipynb`和`AttMoE-CALCE.ipynb`中定义了下面模型。其中MoE的参数不是原始库的参数，不知道后续修改了哪些部分，且您的库中没有提供修改后的代码和原始MoE代码的来源。 ```python from mixture_of_experts import MoE class AttMoE(nn.Module): def __init__(self, feature_size=16, hidden_dim=8, num_layers=1, nhead=4, dropout=0., dropout_rate=0.2, num_experts=8, device='cpu'): super(AttMoE, self).__init__() self.feature_size, self.hidden_dim = feature_size, hidden_dim self.dropout = nn.Dropout(dropout_rate) self.cell...

CXL-edu

Transformer takes input length of 1?

1

pauln2k

aanxud888

这个是初始容量，就是1.1Ah

1

这个是初始容量，就是1.1Ah 发件人：huahuojiupan ***@***.***> 发送日期：2023-12-09 11:06:41 收件人：XiuzeZhou/RUL ***@***.***> 抄送人：Chenyu Sun ***@***.***>,Comment ***@***.***> 主题：Re: [XiuzeZhou/RUL] 关于dropout和DAE的问题 (Issue #4) 你好，我想问一下这个C0也就是Rated_Capacity这个参数为什么设定为1.1呀，我看论文中和代码中没有作解释 — Reply to this email directly, view it on GitHub, or unsubscribe. You...

huahuojiupan

关于dropout和DAE的问题

7

感谢分享代码，有两个问题想要请教一下， 请问一下这个代码是论文中最好结果涉及的代码吗？ 为什么dropout和noise都是0，最好的结果是没有用上这两个结构吗？

myalos

我想请问一下你的最终预测结果是取的最后一个epoch的值还是取的所以epoch中最好的预测值？

yang301301