长短期记忆网络(LSTM)是什么？它的主要特征

长短期记忆网络(Long Short-Term Memory, LSTM)是一种特殊的循环神经网络，能够学习长期依赖关系。它通过门控机制来控制信息的流动,避免遗忘重要的远期信息。

长短期记忆网络(LSTM)的主要特征

1、遗忘门(Forget Gate):控制上一时刻细胞状态的遗忘程度,一般使用Sigmoid激活函数。
2、输入门(Input Gate):控制当前时刻输入到记忆单元的程度,一般使用Sigmoid激活函数。
3、输出门(Output Gate):控制记忆单元输出的程度,一般使用Sigmoid激活函数。
4、更新门(Update Gate): 将遗忘门和输入门输出相乘作为记忆单元层的输入,一般使用Tanh激活函数。
5、记忆单元(Memory Cell):记录长期信息,一般使用Tanh激活函数。

长短期记忆网络(LSTM)的工作流程

1、定义LSTM输入xt及隐藏层ht-1和Ct-1(上一时刻隐藏层输出和记忆单元)；
2、计算遗忘门:ft = σ(Wf · [ht-1, xt] + bf) (σ为Sigmoid激活函数)；
3、计算输入门:it = σ(Wi · [ht-1, xt] + bi)；
4、计算更新门:ut = tanh(Wu · [ht-1, xt] + bu)；
5、更新记忆单元:Ct = ft * Ct-1 + it * ut；
6、计算输出门:ot = σ(Wo · [ht-1, xt] + bo)；
7、计算当前隐藏层:ht = ot * tanh(Ct)；
8、重复步骤1-7直到序列结束。