ICLR 2020|互信息视角下的表征学习

两篇和互信息相关的论文 点击查看ICLR更多论文信息 互信息(MI)在表征学习中广泛被用到,但由于其intractable的性质,很多方法只是将其一个下界作为优化的目标。本文简单阐述了两篇文章,其中一篇将如今的词表示学习方法统一到MI的视角下,另一篇首次提出了近似MI的导数而非直接近似MI来得到更好的近似效果。   A Mutual Information Maximization Perspec
相关文章
相关标签/搜索