标签： 熵

熵的来源及相关定义

熵是信息论与编码理论的中心概念。至于条件熵以及互信息都是某种意义上的熵。对于熵的理解是最根本的。几乎所有的信息论教材无一列外的提到熵是刻画信息的多少或者不确定性的。这当然也没有什么问题，但是却立即让人 … Continue reading 熵的来源及相关定义