对激活函数的疑问

[cizhouyu]

您好，感谢您贡献的高质量论文和代码！ 有一个问题想请教： 论文中使用到了 $ELU'$ 激活函数，没有过多解释使用该激活函数的原因；请问您在研究过程中有尝试过其他常用的激活函数比如说 $Sigmoid$ 激活函数吗，为什么最终采用了 $ELU'$ 作为激活函数呢，谢谢！