NicholasYangAI
Results
3
comments of
NicholasYangAI
mark，同样遇到了精度问题
> > mark，同样遇到了精度问题 > > 我这边解决了，通过用一个mask2 - max（mask2），这个操作是等价的，你可以试试。或者直接把softmax这部分计算全部还原为32。 我试过把softmax部分还原为fp32，仍然没有解决问题。 mask2 - max(mask2) 是指什么，我没有get到。 谢谢