堆叠 LSTM 网络中每个 LSTM 层的输入是什么？

我在理解堆叠 LSTM 网络中各层的输入输出流时遇到一些困难。假设我创建了一个如下所示的堆叠 LSTM 网络：

# parameters
time_steps = 10
features = 2
input_shape = [time_steps, features]
batch_size = 32

# model
model = Sequential()
model.add(LSTM(64, input_shape=input_shape,  return_sequences=True))
model.add(LSTM(32,input_shape=input_shape))

其中我们的堆叠 LSTM 网络由 2 个 LSTM 层组成，分别具有 64 个和 32 个隐藏单元。在这种情况下，我们期望在每个时间步，第一个 LSTM 层 -LSTM(64) - 将作为输入传递给第二个 LSTM 层 -LSTM(32) - 一个大小为[batch_size, time-step, hidden_unit_length]，它表示第一个 LSTM 层在当前时间步的隐藏状态。让我困惑的是：

1. 第二个 LSTM 层 -LSTM(32)- 是否接收为X(t)（作为输入）第一层的隐藏状态 -LSTM(64)- 其大小为[batch_size, time-step, hidden_unit_length]并将其传递到它自己的隐藏网络（在本例中由 32 个节点组成）？
2. 如果第一个是真的，为什么input_shape当第二层仅处理第一层的隐藏状态时，第一个 -LSTM(64)- 和第二个 -LSTM(32)- 是相同的吗？在我们的例子中不应该有input_shape设置为[32, 10, 64]?

I found the LSTM visualization below very helpful (found here https://towardsdatascience.com/animated-rnn-lstm-and-gru-ef124d06cf45) but it doesn't expand on stacked-lstm networks:

任何帮助将不胜感激。 谢谢！

The input_shape仅第一层需要。后续层将前一层的输出作为其输入（因此它们的input_shape参数值被忽略）

下面的模型

model = Sequential()
model.add(LSTM(64, return_sequences=True, input_shape=(5, 2)))
model.add(LSTM(32))

代表以下架构

你可以从中验证它model.summary()

_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
lstm_26 (LSTM)               (None, 5, 64)             17152     
_________________________________________________________________
lstm_27 (LSTM)               (None, 32)                12416     
=================================================================

更换线路

model.add(LSTM(32))

with

model.add(LSTM(32, input_shape=(1000000, 200000)))

仍然会给你相同的架构（使用验证model.summary()）因为input_shape被忽略，因为它将前一层的张量输出作为输入。

如果您需要如下所示的序列到序列架构

你应该使用以下代码：

model = Sequential()
model.add(LSTM(64, return_sequences=True, input_shape=(5, 2)))
model.add(LSTM(32, return_sequences=True))

应该返回一个模型

_________________________________________________________________
Layer (type)                 Output Shape              Param #   
=================================================================
lstm_32 (LSTM)               (None, 5, 64)             17152     
_________________________________________________________________
lstm_33 (LSTM)               (None, 5, 32)             12416     
=================================================================