《Spelling Error Correction with Soft-Masked BERT》阅读笔记

会议:ACL2020 机构:字节跳动、复旦大学 摘要:拼写错误检测很重要但是具有挑战性,因为其需要人类水平的语言理解能力。目前一个SOTA是用BERT在句子的每个位置的候选列表中选择一个字符,以进行修改(或不修改)。然而,这个方法的准确性可能不是最优的,因为BERT没有足够的能力去识别某个位置的字符是不是错误的,因为他使用mask language model的训练方式。我们提出了一个新的神经网络
相关文章
相关标签/搜索