我正在研究序列预测问题，并且在这方面没有太多经验，因此下面的一些问题可能很幼稚。
FYI:我创建了一个关注 CRF 的后续问题here https://stackoverflow.com/questions/53987682/multivariate-binary-sequence-prediction-with-crf
我有以下问题：
我想预测多个非独立变量的二元序列。
Inputs:
我有一个包含以下变量的数据集：
此外，假设以下情况：
binary_signal_group_A and binary_signal_group_B是我想使用（1）它们过去的行为和（2）从每个时间戳提取的附加信息来预测的 2 个非独立变量。
到目前为止我所做的：
# required libraries
import re
import numpy as np
import pandas as pd
from keras import Sequential
from keras.layers import LSTM
data_length = 18 # how long our data series will be
shift_length = 3 # how long of a sequence do we want
df = (pd.DataFrame # create a sample dataframe
.from_records(np.random.randint(2, size=[data_length, 3]))
.rename(columns={0:'a', 1:'b', 2:'extra'}))
# NOTE: the 'extra' variable refers to a generic predictor such as for example 'is_weekend' indicator, it doesn't really matter what it is
# shift so that our sequences are in rows (assuming data is sorted already)
colrange = df.columns
shift_range = [_ for _ in range(-shift_length, shift_length+1) if _ != 0]
for c in colrange:
for s in shift_range:
if not (c == 'extra' and s > 0):
charge = 'next' if s > 0 else 'last' # 'next' variables is what we want to predict
formatted_s = '{0:02d}'.format(abs(s))
new_var = '{var}_{charge}_{n}'.format(var=c, charge=charge, n=formatted_s)
df[new_var] = df[c].shift(s)
# drop unnecessary variables and trim missings generated by the shift operation
df.dropna(axis=0, inplace=True)
df.drop(colrange, axis=1, inplace=True)
df = df.astype(int)
df.head() # check it out
# a_last_03 a_last_02 ... extra_last_02 extra_last_01
# 3 0 1 ... 0 1
# 4 1 0 ... 0 0
# 5 0 1 ... 1 0
# 6 0 0 ... 0 1
# 7 0 0 ... 1 0
# [5 rows x 15 columns]
# separate predictors and response
response_df_dict = {}
for g in ['a','b']:
response_df_dict[g] = df[[c for c in df.columns if 'next' in c and g in c]]
# reformat for LSTM
# the response for every row is a matrix with depth of 2 (the number of groups) and width = shift_length
# the predictors are of the same dimensions except the depth is not 2 but the number of predictors that we have
response_array_list = []
col_prefix = set([re.sub('_\d+$','',c) for c in df.columns if 'next' not in c])
for c in col_prefix:
current_array = df[[z for z in df.columns if z.startswith(c)]].values
response_array_list.append(current_array)
# reshape into samples (1), time stamps (2) and channels/variables (0)
response_array = np.array([response_df_dict['a'].values,response_df_dict['b'].values])
response_array = np.reshape(response_array, (response_array.shape[1], response_array.shape[2], response_array.shape[0]))
predictor_array = np.array(response_array_list)
predictor_array = np.reshape(predictor_array, (predictor_array.shape[1], predictor_array.shape[2], predictor_array.shape[0]))
# feed into the model
model = Sequential()
model.add(LSTM(8, input_shape=(predictor_array.shape[1],predictor_array.shape[2]), return_sequences=True)) # the number of neurons here can be anything
model.add(LSTM(2, return_sequences=True)) # should I use an activation function here? the number of neurons here must be equal to the # of groups we are predicting
model.summary()
# _________________________________________________________________
# Layer (type) Output Shape Param #
# =================================================================
# lstm_62 (LSTM) (None, 3, 8) 384
# _________________________________________________________________
# lstm_63 (LSTM) (None, 3, 2) 88
# =================================================================
# Total params: 472
# Trainable params: 472
# Non-trainable params: 0
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy']) # is it valid to use crossentropy and accuracy as metric?
model.fit(predictor_array, response_array, epochs=10, batch_size=1)
model_preds = model.predict_classes(predictor_array) # not gonna worry about train/test split here
model_preds.shape # should return (12, 3, 2) or (# of records, # of timestamps, # of groups which are a and b)
# (12, 3)
model_preds
# array([[1, 0, 0],
# [0, 0, 0],
# [1, 0, 0],
# [0, 0, 0],
# [1, 0, 0],
# [0, 0, 0],
# [0, 0, 0],
# [0, 0, 0],
# [0, 0, 0],
# [0, 0, 0],
# [1, 0, 0],
# [0, 0, 0]])
问题：
这里的主要问题是：我如何让它工作，以便模型能够预测两组的下一个 N 序列？
另外，我想问以下问题：
非常感谢！
我将按顺序回答所有问题
我如何让它工作，以便模型能够预测下一个 N 两组的序列？
我建议对您的模型进行两处修改。
The first最后一层使用 sigmoid 激活。
Why?? Consider binary cross entropy loss function (I borrowed the equation from here https://ml-cheatsheet.readthedocs.io/en/latest/loss_functions.html)
Where L is calculated loss, p is network prediction and y is target values.
The Loss is defined for .
If p is outside of this open interval range then the loss is undefined. The default activation of lstm layer in keras is tanh https://keras.io/layers/recurrent/ and it's output range is (-1, 1). This implies that the output of the model is not suitable for binary cross-entropy loss. If you try to train the model you might end up getting
nan for loss.
The second修改（是第一次修改的一部分）或者在最后一层之前添加 sigmoid 激活。为此，您有三个选择。
尽管所有情况都有效，但我建议使用带有 sigmoid 激活的密集层，因为它几乎总是效果更好。 现在建议更改的模型将是
model = Sequential()
model.add(LSTM(8, input_shape=(predictor_array.shape[1],predictor_array.shape[2]), return_sequences=True))
model.add(LSTM(2, return_sequences=True))
model.add(TimeDistributed(Dense(2, activation="sigmoid")))
model.summary()
...尝试通过单个输出同时输出 A 和 B 序列是否有效 型号还是我应该安装 2 个单独的型号...？
理想情况下，这两种情况都可以。但最新的研究如this one https://pdfs.semanticscholar.org/813d/4b843f64439c9ff9df63158c8ba8179276da.pdf表明前一种情况（对两个组使用单一模型）往往表现更好。该方法通常被称为多任务学习 https://en.wikipedia.org/wiki/Multi-task_learning。背后的想法多任务学习非常广泛，为了简单起见，它可以被认为是通过强制模型学习多个任务常见的隐藏表示来添加归纳偏差。
...当我预期时，预测输出的形状为 (12, 3) 它是 (12, 2) -- 我在这里做错了什么吗......？
你得到这个是因为你正在使用预测类 https://faroit.github.io/keras-docs/1.0.0/models/sequential/方法。与预测方法不同，predict_classes 方法返回通道轴的最大索引（在您的情况下是第三个索引）。正如我上面所解释的，如果您对最后一层使用 sigmoid 激活并用 Predict 替换 Predict_classes，您将得到您所期望的结果。
就输出 LSTM 层而言，这是一个好主意吗？ 在这里使用激活函数，例如 sigmoid？为什么/为什么不呢？
我希望我已经在上面解释了这一点。答案是肯定的。
使用分类类型损失（二元交叉熵）是否有效 和优化序列的指标（准确性）？
由于您的目标是二进制信号（分布是伯努利分布 https://en.wikipedia.org/wiki/Bernoulli_distribution），是的，使用二进制损失和准确性指标是有效的。这个答案给出了 https://stackoverflow.com/a/53933195/5825953有关为什么二元交叉熵对于此类目标变量有效的更多详细信息。
LSTM 模型是这里的最佳选择吗？有人认为 CRF 或者某些 HMM 类型的模型在这里会更好？
这取决于可用数据和您选择的网络的复杂性。 CRF 和 HMM 网络很简单，如果可用数据较小，效果会更好。但如果可用数据集很大，LSTM 几乎总是优于 CRF 和 HMM。我的建议是，如果你有大量数据，请使用 LSTM。但如果您的数据较少或正在寻找简单的模型，您可以使用 CRF 或 HMM。