yujun

@tuyunbin F12审查元素，查看对应下载链接。

> > mish_cuda支持cuda9.2和10.0，但pytorch1.5.1最低支持10.1，请问您的mish_cuda安装没问题嘛，或者说您的pytorch，cuda的版本是？ > > 请问你的mish_cuda现在安装成功了吗？ 我在ubuntu1804下pytorch1.6 cuda10.2下直接python setup.py install成功安装了，在windows10下pytorch1.6 cuda10.1也成功安装了

> > > > mish_cuda支持cuda9.2和10.0，但pytorch1.5.1最低支持10.1，请问您的mish_cuda安装没问题嘛，或者说您的pytorch，cuda的版本是？ > > > > > > > > > 请问你的mish_cuda现在安装成功了吗？ > > > > > > 我在ubuntu1804下pytorch1.6 cuda10.2下直接python setup.py install成功安装了，在windows10下pytorch1.6 cuda10.1也成功安装了 > > 安装成功的标志是什么？为什么我的出现了以下问题？ >...

@xiaozhangya 你这个cuda环境就没配置安装好吧，自己搜一下安装与你pytorch版本一致的cuda

@xiaozhangya 我记得我服务器也是cuda10的，用了cuda10.1的pytorch1.6，你是在anaconda环境中装的pytorch嘛？

@xiaozhangya 实在不行就别安装mish_cuda了，老老实实用pytorch实现的mish吧。 新建一个文件夹叫mish_cuda,里面放一个__init__.py文件，然后把这个mish_cuda放进 E:\ProgramData\Anaconda3\envs\环境名称\Lib\site-packages 

@haoxue1215 文件__init__.py ```python ALL = ['MishCuda'] import torch class MishCuda(torch.nn.Module): def forward(self, x): return x * torch.nn.functional.softplus(x).tanh() ```

@yueqianhaobo 我试着修改huggingface的electra代码，尝试加载了ConvBert的discriminators权重https://github.com/JunnYu/ConvBert_huggingface.git

 确保你的tf权重是这个格式

请使用本仓库的转换代码https://github.com/JunnYu/RoFormer_pytorch/blob/roformer_v2/src/roformer/convert_roformer_original_tf_checkpoint_to_pytorch.py 这个代码对roformer sim用了CasualLM模型加载转换，如果需要pooler的权重请确保RoFormerModel里面的add pooler layer＝True。 详细的你可以参考一下，readme里面一个Roformer-sim测试例子。然后有关config，参考https://huggingface.co/junnyu/roformer_chinese_sim_char_ft_small/blob/main/config.json 这里面。