Tips for Generation in Encoder-Decoder model

这里归纳一些在训练Encoder-Decoder模型时的小tip: 1.训练时,在Decoder中,RNN的当前输入应该使用上一次RNN的output还是ground truth ? 答:如果训练时都使用ground truth作为RNN的当前输入,那么会导致train 和 test的mismatch。因此test时我们没有sample,test的时候只能将上一时间的output作为当前input
相关文章
相关标签/搜索