GPT Transformer Bert对比分析

首先，Transformer来自论文Attention Is All You Need，后面笔记很多参考文章The Illustrated Transformer，同时加了一些自己的理解。 1. 从上到下认识Transformer 首先我们把Transformer看做一个黑盒，以机器翻译示例为例，Transformer是输入就是待翻译的句子，输出就是翻译后的句子。   然后我们再一步一步打开这个潘

>>阅读原文<<