NLP 对抗方法整理

NLP中对抗应用

1. 分词 ， 能够用GAN来作，消除不一样分词器的差别性

2. 风格迁移， 这个在图像中应用较多，在NLP中一样可行

3. 提升问答系统/阅读理解的性能。

4. 机器翻译应该也能够作，能够用GAN，不一样的翻译规则 -> 趋于相同的答案

那这么说，一切和消歧相关的其实均可以用GAN来作

 

QA对抗攻击

目前能想到的：

1. 调换两个字符的位置

2. 调换两个单词的位置

3. 用空白embedding代替关键词embedding

4. 用类似词代替原有关键词

5. 梯度降低学习能够攻击成功的embedding（怎么保证decode出来的语义合理，好比，在词典中有所对应）

 

以上都是讲在材料/supporting facts上作攻击

一样能够攻击question

1. 好比上述3,4，想办法代替原有词

2. 固然也有一些论文指出，QA system经常会忽略一些重要的描述词。这个也是一个攻击的点。