deeplearning_ai_books icon indicating copy to clipboard operation
deeplearning_ai_books copied to clipboard

笔记第564页,LSTM导数推导

Open wywywy01 opened this issue 6 years ago • 1 comments

请问下,这一部分的LSTM的反向传播部分,门的几个微分公式,在原视频里面没有找到,对这一块不是很理解,请问能详细解释下吗? 比如说,输出门微分项 image 是依据那个式子求出来的

wywywy01 avatar Dec 25 '18 08:12 wywywy01

我刚好看到这里有点疑问,推导了一下,感觉这里有点小问题。等式左边应该是对输出门的激活函数括号里的整体部分求导,而不是对输出门求导。

image

这个是输出门的公式,把sigma里面的整体记为Z,则激活函数对Z求导为:

image

所以:

image

hustlong avatar Mar 22 '19 11:03 hustlong