一文看懂 LSTM - 长短期记忆网络（基本概念+核心思路）

Home
AI 知识库

    # 长短期记忆网络 – Long short-term memory | LSTM













                                  文章目录

什么是 LSTM？

长短期记忆网络——通常被称为 LSTM，是一种特殊的 RNN，能够学习长期依赖性。由 Hochreiter 和 Schmidhuber（1997）提出的，并且在接下来的工作中被许多人改进和推广。LSTM 在各种各样的问题上表现非常出色，现在被广泛使用。

LSTM 被明确设计用来避免长期依赖性问题。长时间记住信息实际上是 LSTM 的默认行为，而不是需要努力学习的东西！

所有递归神经网络都具有神经网络的链式重复模块。在标准的 RNN 中，这个重复模块具有非常简单的结构，例如只有单个 tanh 层。

LSTM 也具有这种类似的链式结构，但重复模块具有不同的结构。不是一个单独的神经网络层，而是四个，并且以非常特殊的方式进行交互。

不要担心细节。稍后我们将逐步浏览 LSTM 的图解。现在，让我们试着去熟悉我们将使用的符号。

在上面的图中，每行包含一个完整的向量，从一个节点的输出到其他节点的输入。粉色圆圈表示逐点运算，如向量加法；而黄色框表示学习的神经网络层。行合并表示串联，而分支表示其内容正在被复制，并且副本将转到不同的位置。

LSTM的核心思路

LSTM 的关键是细胞状态，即图中上方的水平线。

细胞状态有点像传送带。它贯穿整个链条，只有一些次要的线性交互作用。信息很容易以不变的方式流过。

LSTM 可以通过所谓“门”的精细结构向细胞状态添加或移除信息。

门可以选择性地以让信息通过。它们由 S 形神经网络层和逐点乘法运算组成。

S 形网络的输出值介于 0 和 1 之间，表示有多大比例的信息通过。0 值表示“没有信息通过”，1 值表示“所有信息通过”。

一个 LSTM 有三种这样的门用来保持和控制细胞状态。

如果对详细的技术原理感兴趣，可以看看这篇文章《Illustrated Guide to LSTM’s and GRU’s: A step by step explanation》

百度百科+维基百科

百度百科版本长短期记忆人工神经网络（Long-Short Term Memory,LSTM）论文首次发表于1997年。由于独特的设计结构，LSTM适合于处理和预测时间序列中间隔和延迟非常长的重要事件。

LSTM的表现通常比时间递归神经网络及隐马尔科夫模型（HMM）更好，比如用在不分段连续手写识别上。2009年，用LSTM构建的人工神经网络模型赢得过ICDAR手写识别比赛冠军。LSTM还普遍用于自主语音识别，2013年运用TIMIT自然演讲数据库达成17.7%错误率的纪录。作为非线性模型，LSTM可作为复杂的非线性单元用于构造更大型深度神经网络。

查看详情

维基百科版本长短期记忆（LSTM）单位是递归神经网络（RNN）的单位。由LSTM单元组成的RNN通常称为LSTM网络（或仅称为LSTM）。公共LSTM单元由单元，输入门，输出门和忘记门组成。该单元记住任意时间间隔内的值，并且三个门控制进出单元的信息流。

LSTM网络非常适合基于时间序列数据进行分类，处理和预测，因为在时间序列中的重要事件之间可能存在未知持续时间的滞后。开发LSTM是为了处理在训练传统RNN时可能遇到的爆炸和消失的梯度问题。对于间隙长度的相对不敏感性是LSTM相对于RNN，隐马尔可夫模型和其他序列学习方法在许多应用中的优势。

查看详情

扩展阅读

入门类文章（4）理解 LSTM 网络

Illustrated Guide to LSTM’s and GRU’s: A step by step explanation

Long Short-Term Memory: From Zero to Hero with PyTorch

如何理解LSTM？

        2019年1月3日
        by [打不死的小强](https://easyai.tech/author/xiaoqiang/)
                    Updated: 2022年8月15日






                  -

          [AI 算法](https://easyai.tech/ai-definition-category/algorithm/), [深度学习](https://easyai.tech/ai-definition-category/deep-learning/)



                  -

          [Long short-term memory](https://easyai.tech/ai-definition-tag/long-short-term-memory/), [LSTM](https://easyai.tech/ai-definition-tag/lstm/), [RNN](https://easyai.tech/ai-definition-tag/rnn/), [人工神经网络](https://easyai.tech/ai-definition-tag/%e4%ba%ba%e5%b7%a5%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c/), [长短期记忆](https://easyai.tech/ai-definition-tag/%e9%95%bf%e7%9f%ad%e6%9c%9f%e8%ae%b0%e5%bf%86/)








        Thanks for your rating!

        You have already rated this article

        An error occured, please try again later



            Was This Article Helpful?


                 21