论文阅读——Aligned Cross Entropy for Non-Autoregressive Machine Translation

https://arxiv.org/pdf/2004.01655.pdf 对齐交叉熵的非自回归机器翻译(未开源)   非自回归机器翻译模型对整个目标序列进行并行预测,极大地提高了解码速度。然而由于模型中缺少自回归因子,难以对词序建模,且交叉熵损失会严重影响词序的微小变化,因此作者提出使用 aligned cross entropy 对齐交叉熵 AXE 作为非自回归模型的损失函数,AXE 使用一个可
相关文章
相关标签/搜索