熵的起源象征着人类科学史上一个既伟大又谦卑的时期。

如今，熵已经成为一个强大的广义概念，在物理学、信息论、生物学等领域都有着广泛的应用，甚至成为人们的价值观。

当人类第一次认识到机械化劳动比体力劳动更为高效时，工业革命如同野火般迅速蔓延。

19世纪中期，蒸汽机成为推动生产效率的核心技术。

蒸汽机插画｜image from Hemanth

蒸汽机是一种神奇的装置，利用热蒸汽的压力推动活塞下压一个精巧设计的桶。

随着蒸汽在桶内膨胀并冷却，活塞再次回到原来的位置，新的热蒸汽又推动活塞重复这一循环。

这种循环导致活塞产生单轴往复运动，通过齿轮等装置，将这种运动转化为机车车轮的旋转轴。

然而，蒸汽机在带来工业革命的同时，也向当时的科学家们提出了严峻的挑战。

燃烧木材或煤产生的热量有95%都流失到环境中，效率极其低下。

为了提高效率，科学家们开始寻求更好的方法，从而开启了对熵的探索之旅。

01 熵的起源：热力学的开端

19世纪初，法国数学家拉扎尔·卡诺在其著作《平衡与运动的基本原理》中提出了一个特别的观点，后来被称为卡诺定理。

卡诺认为，在任何机器中，加速度和冲击的运动部件代表着有用功的损失。

基于此，他断言永动机是不可能的。

虽然这一观点看似微不足道，但它构成了热力学第二定律和熵的基础。

不过，当时卡诺因当时滑铁卢事件后（拿破仑的支持者，曾担任军队事务）最终于1823年流亡海外，但他的儿子萨迪·卡诺于1824年出版了《论火的动力》，提出了热力学可逆性的概念。

他设想了一种理想的热机，利用热能做工并逆转工作循环，以再现热量。

虽然任何现实世界的热机都不可能实现卡诺的热力学可逆性，但这一概念为熵的发现奠定了基础。

热力学主要奠基人之一 熵的创始人 鲁道夫·克劳修斯

在卡诺父子奠定的基础上，鲁道夫·克劳修斯进一步发展了热和功之间的数学关系。他提出了内部工作和外部工作的概念。

外部工作是由热蒸汽推动活塞所做的工作，而内部工作是由蒸汽分子不断相互反弹所做的工作。

1862年，克劳修斯通过数学推导证明，当一台机器从一个温度状态变化到另一个温度状态时，会涉及到一个等效值，捕捉到不可逆的热损失。

1865年，克劳修斯正式命名这种不可逆的热损失为“熵”。他选择这个词是因为它与“能量”相似，且取自希腊词“en-tropie”，意为“内在方向”。

02 熵的演变：统计力学的崛起

对于蒸汽机效率的进一步提升，科学家们意识到需要考虑蒸汽分子的运动。

然而，计算数以万亿计的蒸汽分子的状态几乎是不可能的。

此时，路德维希·玻尔兹曼提出了熵的统计力学评价，认为熵是统计学上“混乱”或无序的度量。

玻尔兹曼的观点是，大量数据点的集合会产生简化效果。尽管他的统计方法遭到一些科学家的反对，但1905年，阿尔伯特·爱因斯坦用类似的方法解释了花粉颗粒在水中抖动的布朗运动，从而使反对者态度缓和。

另外，在研究电话信号中的信息丢失时，克劳德·香农提出了一种测量不确定性的方法，其数学公式与熵的热力学概念非常相似。

香农最初想将这种不确定性称为“信息”，但在数学家约翰·冯·诺伊曼的建议下，最终将其命名为“熵”。

冯·诺伊曼的建议是基于两个理由：首先，统计力学中已经使用了熵这个名称；其次，熵的定义较为模糊，在辩论中总是占据优势。

今天，熵已经成为一个主流概念，常被用来描述“无序”或“随机性”。

它不仅解释了热力学中的能量损失，还在信息论中测量信息的不确定性，并揭示了时间为何只向一个方向流动。

以上，就是整个熵的发展简史！

结语

熵(低与高)

熵的故事从蒸汽机开始，经过热力学、统计力学，最终在信息论中得到了广泛应用。

它不仅是科学研究的一个重要概念，更是理解世界运作的一把钥匙。

当然，关于熵的故事不止于此，它的深奥超出想象，未来我们还会继续谈。