变分互信息蒸馏（Variational mutual information KD）

时间 2021-01-20

标签深度学习与pytorch 繁體版

原文原文链接

原文标题是Variational Information Distillation for Knowledge Transfer，是CVPR2019的录用paper。 VID方法思路比较简单，就是利用互信息（mutual information，MI）的角度，增加teacher网络与student网络中间层特征的MI，motivation是因为MI可以表示两个变量的依赖程度，MI越大，表明两者的

>>阅读原文<<

1. 互信息（mutual information）
2. 互信息（Mutual Information）
3. Conditional mutual information 条件互信息
4. 互信息（Mutual Information）的介绍
5. 特征选择之互信息 Mutual Information
6. Mutual information and Normalized Mutual information
7. 知识蒸馏 | (1) 知识蒸馏概述
8. 条件互信息的理解(Conditional Mutual Information)
9. 计算两个向量的互信息(Mutual Information) matlab程序
10. IDN-Fast and Accurate Single Image Super-Resolution via Information Distillation Network信息蒸馏网络
更多相关文章...
• 浏览器信息 - 浏览器信息
• XML DOM 节点信息 - XML DOM 教程
• Git五分钟教程
• 算法总结-二分查找法

最新文章

1. eclipse设置粘贴字符串自动转义
2. android客户端学习-启动模拟器异常Emulator: failed to initialize HAX: Invalid argument
3. android.view.InflateException: class com.jpardogo.listbuddies.lib.views.ListBuddiesLayout问题
4. MYSQL8.0数据库恢复 MYSQL8.0ibd数据恢复 MYSQL8.0恢复数据库
5. 你本是一个肉体，是什么驱使你前行【1】
6. 2018.04.30
7. 2018.04.30
8. 你本是一个肉体，是什么驱使你前行【3】
9. 你本是一个肉体，是什么驱使你前行【2】
10. 【资讯】LocalBitcoins达到每周交易比特币的7年低点

本站公众号

欢迎关注本站公众号,获取更多信息

1. 互信息（mutual information）
2. 互信息（Mutual Information）
3. Conditional mutual information 条件互信息
4. 互信息（Mutual Information）的介绍
5. 特征选择之互信息 Mutual Information
6. Mutual information and Normalized Mutual information
7. 知识蒸馏 | (1) 知识蒸馏概述
8. 条件互信息的理解(Conditional Mutual Information)
9. 计算两个向量的互信息(Mutual Information) matlab程序
10. IDN-Fast and Accurate Single Image Super-Resolution via Information Distillation Network信息蒸馏网络

>>更多相关文章<<