据我的理解,熵起源于热力学,即熵是一个宏观量。按定义来说,实际上熵负责描述“不能做功的一部分热量”。这很直观,因为实验中人们发现,功可以全部转化为热,而热不能全部转化为功。而熵又是一个状态量,不像热量那样与具体过程有关,给定状态有定值,使用方便。顺带说一下,自由能是描述系统可以做功的那部分能量的,所以有F=U-TS,以及G=H-TS。这部分熵可以用量热法、光谱法测量,而且这两种方法测量到的熵还有所区别。
但科学家显然那不会满足于此,为了追溯熵的微观起源,Boltzmann提出熵跟系统在不改变宏观状态的前提下,可能取到的微观状态数目有关。他基于气体是由原子(当时还没有分子的概念,原子既指单原子分子也指多原子分子)组成的这个假设,建立了熵的微观解释— —Boltzmann定理。但是他的理论有两个致命问题:1,当时还没有原子存在的证据;2,确实无法从经典力学推导出统计力学。从量子力学也不行。
现在我们知道,气体是原子/分子组成的,无法从经典力学推导出统计力学。统计力学必须使用自己的基本假设— —先验等概率假设与随机相位假设。
如果对统计物理的理论基础感兴趣,可以参考这一本言简意赅的初步讨论:
而如果基于随机分析和测度论,会发现熵的数学表达式是概率空间中的一种测度。数学家以及其他学科的科学家基于熵的数学性质,可以推广熵的概念,定义满足某些性质的测度叫做熵。此时的熵已经与传热没啥关系了。
详细的讨论见我的专栏。
最后推荐一本老院士写的科普,就是开头放出来的:
还有一本严肃的好书: