Seq2Seq 模型在几次迭代后学会仅输出 EOS 令牌 (<\s>)

我正在创建一个接受过训练的聊天机器人康奈尔电影对话语料库 https://www.cs.cornell.edu/~cristian/Cornell_Movie-Dialogs_Corpus.html using NMT https://github.com/tensorflow/nmt.

我的代码部分基于https://github.com/bshao001/ChatLearner https://github.com/bshao001/ChatLearner and https://github.com/chiphuyen/stanford-tensorflow-tutorials/tree/master/assignments/chatbot https://github.com/chiphuyen/stanford-tensorflow-tutorials/tree/master/assignments/chatbot

在训练期间，我打印从批次中馈送到解码器的随机输出答案以及我的模型预测的相应答案以观察学习进度。

我的问题：仅经过大约 4 次迭代训练后，模型就学会了输出 EOS 代币（<\s>）对于每个时间步长。即使训练仍在继续，它也始终将其输出作为其响应（使用 logits 的 argmax 确定）。模型偶尔会输出一系列周期作为答案，但这种情况很少发生。

我还在训练期间打印前 10 个 logit 值（不仅仅是 argmax），以查看其中是否有正确的单词，但它似乎是在预测词汇中最常见的单词（例如 i、you、?、. ）。即使是这前 10 个单词在训练过程中也没有太大变化。

我已确保正确计算编码器和解码器的输入序列长度，并添加了 SOS (<s>）和 EOS（也用于填充）相应的代币。我也表演masking在损失计算中。

这是一个示例输出：

训练迭代 1：

Decoder Input: <s> sure . sure . <\s> <\s> <\s> <\s> <\s> <\s> <\s> 
<\s> <\s>
Predicted Answer: wildlife bakery mentality mentality administration 
administration winston winston winston magazines magazines magazines 
magazines

...

训练迭代 4：

Decoder Input: <s> i guess i had it coming . let us call it settled . 
<\s> <\s> <\s> <\s> <\s>
Predicted Answer: <\s> <\s> <\s> <\s> <\s> <\s> <\s> <\s> <\s> <\s> 
<\s> <\s> <\s> <\s> <\s> <\s> <\s> <\s>

经过几次迭代后，它决定只预测 EOS（很少预测某些时期）

我不确定是什么导致了这个问题，并且已经被困在这个问题上一段时间了。任何帮助将不胜感激！

Update:我让它训练超过十万次迭代，但它仍然只输出 EOS（和偶尔的周期）。经过几次迭代后，训练损失也没有减少（从一开始就保持在 47 左右）

最近我也在研究seq2seq模型。 我以前遇到过你的问题，就我而言，我通过更改损失函数来解决它。

你说你用面膜，所以我猜你用tf.contrib.seq2seq.sequence_loss就像我一样。

我改为tf.nn.softmax_cross_entropy_with_logits，并且它可以正常工作（并且计算成本更高）。

（编辑 05/10/2018。请原谅，我需要编辑，因为我发现我的代码中有一个严重的错误）

tf.contrib.seq2seq.sequence_loss可以很好地工作，如果形状logits ,targets , mask是对的。 正如官方文档中定义的：tf.contrib.seq2seq.sequence_loss https://www.tensorflow.org/api_docs/python/tf/contrib/seq2seq/sequence_loss

loss=tf.contrib.seq2seq.sequence_loss(logits=decoder_logits,
                                      targets=decoder_targets,
                                      weights=masks) 

#logits:  [batch_size, sequence_length, num_decoder_symbols]  
#targets: [batch_size, sequence_length] 
#weights: [batch_size, sequence_length] 

嗯，即使形状不符合，它仍然可以工作。但结果可能很奇怪（很多#EOS #PAD...等）。

自从decoder_outputs，以及decoder_targets可能具有与所需相同的形状（在我的例子中，我的decoder_targets有形状[sequence_length, batch_size]）。 所以尝试使用tf.transpose帮助您重塑张量。