机器学习中的一些信息论的概念简介

机器学习和深度学习中常用信息论中的一些概念。
这里只做目录简介，具体的内容参考原文：

1. 信息量
2. 联合熵
3. 条件熵
4. 相对熵
5. 互信息
6. 信息增益 Information Gain
7. 信息增益率 Information Gain ratio

出自：远方的橄榄树
原文链接 https://blog.csdn.net/light_lj/article/details/52208838