ReFormer论文解读(THE EFFICIENT TRANSFORMER)

文章目录 Reformer要解决的问题 Reformer怎么解决以上三个问题 Reformer时间、空间复杂度汇总 我们接下来详解以上三个改进 一. hash近似Attention 二. 可逆网络 三. 可逆网络分块 四. 总结一下,Reformer确实在内存、性能优化方面明显改进,提出或借鉴的方法比较有意思。 如有不对地方,欢迎指出,谢谢。 参考链接: 论文:https://arxiv.org/
相关文章
相关标签/搜索