决策本质是熵减

文章预览

在我们日常生活中， 选择无处不在 。比如早晨选择穿什么衣服，去公司乘坐什么交通工具，抑或是浏览公众号文章时读哪篇文章，这些寻常的行为背后，其实都隐藏着深刻的信息论概念。 信息论，作为现代数学和计算机科学的重要分支，主要研究信息的获取、传递和处理，而其中一个 核心概念就是“熵” 。 熵最早是热力学中的概念，用来描述一个系统的无序程度 。而在信息论中，熵则代表了系统中不确定性的量度。换句话说， 熵越大，系统中的不确定性就越高；熵越小，不确定性就越低 。 当我们做出选择时，实际上是在减少不确定性，也就是在“熵减” 。本文将带您从信息论的角度，谈一谈“选择”这一行为的本质。 什么是信息熵？ 信息论中的熵是由克劳德·香农在1948年提出的。他定义了熵作为一个随机变量的不确定性度量。在信息论的 ………………………………