论文笔记：Representation Learning with Contrastive Predictive Coding

对于无监督学习来说，互信息是一个非常重要的指标，它衡量了两个随机变量之间的相关性。在无监督学习中，利用对互信息的优化，通常我们能够得到更加好的特征表示。 要做什么 特征抽取是无监督学习的重要部分，旨在对大量的无标注数据样本进行训练，最后能够得到一个编码器E，将每一个样本 x x x编码为一个好的向量表示 z z z，那么如何衡量这个表示是否好呢？自编码器(AutoEncoder)告诉我们, 希望编

>>阅读原文<<