← 返回目录


热力学第二定律与认知引擎

学校≠教育≠技能;文凭溢价=80%信号传递+20%人力资本

34 👍 / 7 💬

热力学第一定律,更广为人知的名字是「能量守恒定律」,它告诉我们不能凭空创造能量:它宣告了第一类永动机的死刑——那种不需要消耗燃料或任何资源就能无休止运转的机器是不存在的。根据现代物理学的观点,能量在粒子之间发生的每一次独立的相互作用中都是守恒的。通过数学归纳法我们可知,无论一个粒子集合有多么庞大,它都无法凭空产生能量——除非它违反了我们目前所认知的物理定律。

这就是为什么美国专利局会毫不犹豫地驳回你那份听起来极其巧妙的提案:你声称设计了一套由齿轮和转轮组成的装置,当第一个弹簧松开时,会带动另一个弹簧上紧,从而永远做功下去。物理学上有一个完全普适的证明可以说明,要让这种事发生,至少得有一个齿轮违反了(标准模型下的)物理定律。所以,除非你能证明其中某个齿轮是如何打破物理定律的,否则由它们组合起来的机器也绝不可能做到。

同样的论证也适用于「无反作用力驱动(reactionless drive)」——一种违反动量守恒定律的推进系统。在标准物理学中,动量在所有单个粒子及其相互作用中都是守恒的;通过数学归纳法可知,无论物理系统的规模多大,动量依然守恒。只要你能想象两个粒子碰撞后,总能以与碰撞前完全相同的总动量弹开,你就能明白,即使把规模从两个粒子放大到一个由无数齿轮组成的极其庞大复杂的机器,也不会改变任何事情。哪怕这台机器牵涉到一万亿个千万亿个原子,0 + 0 + \dots + 0 依然等于 0

但是,能量守恒定律本身并不能阻止我们将热能转化为功。事实上,你完全可以造出一个密封的箱子,它能把冰块和储存的电能转化为温水。这甚至一点都不难。能量既不能被创造也不能被毁灭:从(冰块 + 电能)转化为(温水),能量的净变化必定是 0。所以,如果你反过来做(把温水变成冰块和电能),它本身并不会违反能量守恒定律……

真正禁止你造出那种将温水转化为电流和冰块的「第二类永动机」的,是热力学第二定律。

第二定律稍微难懂一些,因为它在本质上是贝叶斯的。

是的,我没开玩笑。

支撑热力学第二定律的最核心的物理法则,是一个在标准物理模型下可以被证明的定理:在任何封闭系统随时间的演化过程中,其相空间(phase space)的体积是守恒的。

假设你把一个球举在离地很高的地方。我们可以把这个系统的状态描述为一个多维空间中的一个点,其中至少有一个维度的坐标是「球离地面的高度」。然后,当你松手让球落下时,球移动了,而那个用来描述包含了你和球在内的整个系统的、位于相空间中的无量纲点,也随之移动了。「相空间」是物理学的黑话,意思是除了粒子的位置维度外,还包含了粒子动量的维度——例如,一个由 2 个粒子组成的系统将拥有 12 个维度:每个粒子的位置占 3 个维度,动量占 3 个维度。

如果你有一个多维空间,其中的每一个维度都用来描述一个由无数齿轮组成的庞大机器中某一个齿轮的位置,那么当你转动这台机器时,一个代表着机器整体状态的单点,就会在一个维度极高的相空间中上下翻飞、四处游走。也就是说,就像你可以把一台庞大复杂的机器看作极高维空间里的一个点一样,你也可以把描述这台机器随时间运转的物理定律,看作是描述这个点在相空间中运动轨迹的定律。

热力学第二定律是标准物理模型中一个可证明定理的必然推论:如果你取相空间中的一块体积,并用标准物理定律让它在时间上向前演化,这块相空间的总面积(体积)是守恒的。

举个例子,假设有两个系统 XY,其中 X8 种可能的状态,Y4 种可能的状态,那么联合系统 (X, Y) 就有 32 种可能的状态。

联合系统随时间的演化,可以描述为一种将初始点映射到未来点的规则。例如,系统可能从 X_7 Y_2 状态开始,然后(在某套物理定律的支配下)在一分钟后演变到状态 X_3 Y_3。意思是:如果 X 一开始在 X_7Y 一开始在 Y_2,我们观察它 1 分钟后,会发现 X 变成了 X_3Y 变成了 Y_3。物理定律就是这样的。

接下来,让我们从联合系统的状态空间中切出一块子空间 S。空间 S 的边界限定为:X 处于状态 X_1,且 Y 处于状态 Y_1Y_4 之间。因此,S 的总体积是 4 个状态。

并且,让我们假设,在支配 (X, Y) 的物理定律下,最初处于 S 空间内的状态会表现出如下演化:

| X_1 Y_1 | \rightarrow | X_2 Y_1 |

| X_1 Y_2 | \rightarrow | X_4 Y_1 |

| X_1 Y_3 | \rightarrow | X_6 Y_1 |

| X_1 Y_4 | \rightarrow | X_8 Y_1 . |

简而言之,这就是冰箱的工作原理。

子系统 X 一开始处于状态空间中一个极窄的区域——事实上,就是单一状态 X_1——而 Y 一开始则分布在一个较宽广的区域,即状态 Y_1Y_4。通过两者相互作用,Y 进入了一个狭窄的区域(全部变成 Y_1),而 X 最终进入了一个宽广的区域;但是,相空间的总面积是守恒的。 四个初始状态依然映射到了四个最终状态。

显然,只要物理定律在时间演化中保持相空间总体积守恒,你挤压 Y 的程度就绝不可能超过 X 扩张的程度,反之亦然——你每把一个子系统挤入更狭窄的状态空间区域,必然有另一个子系统会被迫膨胀到更宽广的状态空间区域。

现在假设我们对这个联合系统 (X, Y) 感到不确定,而我们的不确定性可以通过在子空间 S 上的等概率分布来描述。也就是说,我们非常确信 X 处于状态 X_1,但 Y 处于状态 Y_1Y_4 中任何一个的概率是均等的。如果我们闭上眼睛一分钟然后再睁开,我们预期会看到 Y 处于状态 Y_1,但 X 可能处于状态 X_2X_8 中的任何一个。实际上,X 只能处于 X_2X_8 中的某些状态,但要想算出它到底可能处于哪些状态,耗费的计算成本太高了,所以我们干脆笼统地说它可能在 X_2X_8 之间。

如果你用香农熵(Shannon entropy)[1]来衡量我们对 XY 作为独立系统的不确定性:X 一开始的熵是 0 比特,因为它处于一个单一的确切状态;而 Y 一开始的熵是 2 比特,因为它等概率地处于 4 个可能状态中的任何一个。(此时 XY 之间不存在互信息[2]。)随着一段物理过程的发生,瞧,Y 的熵降到了 0,但 X 的熵却升到了 \log_2(7) \approx 2.8 比特。所以,熵从一个系统转移到了另一个系统,并且在 Y 子系统内部确实减少了;但是,由于追踪所有细节的「记账」成本太高,我们懒得去记录某些信息,结果(从我们的主观视角来看)整体的熵反而增加了。

假设存在一种物理过程,它是像这样将过去的状态映射到未来状态的:

| X_2 Y_1 | \rightarrow | X_2 Y_1 |

| X_2 Y_2 | \rightarrow | X_2 Y_1 |

| X_2 Y_3 | \rightarrow | X_2 Y_1 |

| X_2 Y_4 | \rightarrow | X_2 Y_1 . |

如果存在这种过程,那你确实拥有了一个实际上能减少熵的物理过程;因为无论你从哪里出发,你最终都会落在同一个点上。随着时间的推移,物理定律将把相空间不断压缩。

但有一个叫「刘维尔定理(Liouville’s Theorem)」的定理,它已被证明适用于我们宇宙的物理定律,该定理断言这种情况永远不会发生:相空间体积是守恒的

热力学第二定律就是刘维尔定理的一个推论:无论你如何巧妙地排列齿轮和转轮,你永远无法在不增加其他地方熵的前提下,去减少某一个子系统的熵。当一个子系统的相空间缩小时,另一个子系统的相空间必然随之扩大,以确保联合空间保持相同的体积。

唯一的问题在于,原本一个紧凑的相空间,在演化过程中可能会扭曲、折叠并产生无数的褶皱纠缠;导致如果你想在这个乱七八糟的形状外面画一个简单的边界把它框起来,你必须画一个比以前大得多的圈——这正是让人产生「熵在增加」这一错觉的原因。(至于在量子系统中,不同的宇宙走向不同的分支,在任何一个局部的宇宙中,熵确实是在增加的。但我们暂且搁置这个复杂的因素。)

热力学第二定律在本质上确实是概率性的——如果你问热水自发地变成「冷水加电能」状态的概率是多少,这个概率确实存在,只不过它小到了极点。这并不意味着刘维尔定理会以极小的概率被打破;毕竟定理就是定理。它的真正含义是:如果你一开始置身于一个巨大无比的相空间体积内,但你不知道自己具体在哪里,你可以评估自己最终落在某个特定相空间体积内的概率微乎其微。就你目前所知而言,这杯特定的热水,确实有无穷小的概率发生自发转变,变成电流和冰块。(像往常一样,忽略量子效应。)

所以,热力学第二定律在骨子里确实是贝叶斯的。当面对任何真实的热力学系统时,它代表的是一项关于你对该系统信念(不确定性程度)的极其严格的法则陈述,而对于系统本身而言,它仅仅是一个概率陈述。

「等一下,」你抗议道。「我物理课上可不是这么学的。在听过的讲座里,热力学探讨的是,你知道的,温度。不确定性完全是一种主观的心理状态!而一杯水的温度是水客观存在的物理属性!热量跟概率能有什么关系?」

哦,你这个对贝叶斯缺乏信任的家伙。

单向来看,热量与概率之间的联系相对直观:如果你对一杯水所知唯一的事实就是它的温度,那么相比于一杯冷水,你对一杯热水的微观状态会感到更加不确定。

热量本质上就是大量微小分子在四处乱窜;温度越高,它们窜得就越快。并非热水里的所有分子都以相同的速度运动——「温度」并不代表所有分子的统一速度,而是代表分子的平均速度,这又对应着一个可预测的统计速度分布——不管怎样,关键在于,水越热,水分子可能达到的速度上限就越高,因此,你对任何单个分子的具体速度(不仅是速率大小,还有方向)就越不确定。当你把你对所有单个分子的不确定性相乘时,你对整杯水的不确定性将呈指数级放大。

我们取这个指数级不确定性体积的对数,并称之为「熵」。你看,一切都严丝合缝地对上了。

而反向的联系则没那么显而易见。假设有一杯水,最初,你只知道它的温度是 72 度。然后,突然之间,拉普拉斯大神(Saint Laplace)向你揭示了水中所有原子的确切位置和速度。现在你对这杯水的状态了如指掌,所以,根据信息论中对熵的定义,它的熵变成了零。那么,这会让它的热力学熵也变成零吗?仅仅因为我们对它了解得更多,这杯水就变冷了吗?

如果暂时忽略量子层面的特性,答案是:没错!确实如此!

麦克斯韦曾经提出过一个设想:为什么我们不能拿一箱温度均匀的高温气体,将其分隔成 AB 两个容积,然后在中间设一道门,只允许快速移动的分子从 B 跑到 A,同时只允许慢速移动的分子从 A 跑到 B?如果你能造出这样一扇门,没过多久,你就会在 A 侧得到滚烫的气体,在 B 侧得到冰冷的气体。那不就是一种极低成本的冷藏食物的方法吗,对吧?

这个负责检查每一个气体分子并决定是否让它通过的智能体,就是大名鼎鼎的「麦克斯韦妖(Maxwell’s Demon)」。而你之所以无法用这种方法造出一台高效的冰箱,原因就在于:麦克斯韦妖在检查气体分子并做决定的过程中,自身不可避免地产生了熵。

但假设你已经知道了所有气体分子的精确位置呢?

那么你确实可以扮演麦克斯韦妖的角色,并从中提取出有用的功。

所以(再次暂时忽略量子效应),如果你知道了一杯热水中所有分子的确切状态,那么在真正的热力学意义上,它就是冷的:你可以从中榨取出电能,最后只留下一个冰块。

这并没有违反刘维尔定理,因为如果 Y 代表水,而你代表麦克斯韦妖(记为 M),这个物理过程的表现如下:

| M_1 Y_1 | \rightarrow | M_1 Y_1 |

| M_2 Y_2 | \rightarrow | M_2 Y_1 |

| M_3 Y_3 | \rightarrow | M_3 Y_1 |

| M_4 Y_4 | \rightarrow | M_4 Y_1 . |

因为麦克斯韦妖知道 Y 的确切状态,所以这构成了 MY 之间的互信息。互信息减少了 (M, Y) 的联合熵:我们有 H(M, Y) = H(M) + H(Y) - I(M; Y)。恶魔 M 拥有 2 比特的熵,Y 有两比特的熵,而它们之间的互信息是 2 比特,所以 (M, Y) 的总熵是 2 + 2 - 2 = 2 比特。这个物理过程只是转换了互信息中的「冷量」(负熵,negentropy),从而让实际的水变冷——在过程结束后,M 拥有 2 比特的熵,Y 拥有 0 比特的熵,互信息归零。这在物理上完全没有任何问题!

别跟我扯什么知识是「主观的」。知识必须被物理地表征在一个大脑(或存储器)中,这就使得它和世间万物一样具有物理实在性。要让 M 在物理上准确地呈现 Y 的状态图像,M 的物理状态就必须与 Y 的状态产生相关性(纠缠)。你完全可以在热力学上利用这种相关性来做功——这种装置被称为「齐拉德引擎(Szilárd engine)」。

或者正如 E. T. 杰恩斯所言:「『知识就是力量』这句古老的格言,无论是在人际交往还是在热力学中,都是一条颠扑不破的真理。」

反之亦然:一个子系统绝对不可能在不(a)与另一个子系统发生物理交互并(b)做热力学功的前提下,去增加与那个子系统之间的互信息。

否则,你就能凭空造出一个麦克斯韦妖,打破热力学第二定律——这反过来就会打破刘维尔定理——而这在标准物理模型中是绝对被禁止的。

也就是说:为了形成对某事物的准确信念(获取知识),你必须实实在在地去观察它。 这是一个极其物理、极其真实的过程:任何理性的心智都在做热力学意义上的「功」,而不仅仅是脑力劳动意义上的「努力」。

(有时候人们会说,为了给下一次观察腾出空间而擦除存储比特,这才是消耗热力学功的真正环节——但这只是措辞和视角的不同罢了;其背后的数学逻辑是清晰无误的。)

(发现逻辑上的「真理」是一个更复杂的问题,我暂且不考虑它——至少部分原因是我自己还在梳理确切的数学形式。在热力学中,对逻辑真理的认知并不能算作负熵;这是符合预期的,因为一台可逆计算机能够以任意低的热力学成本计算出逻辑真理。我上面说的这一切,只适用于那些不具备「逻辑全知」能力的凡人:任何心智稍逊的存在,其效率必然会大打折扣。)

「形成准确的信念需要消耗相应数量的证据(做功)」,这无论在人际关系还是在热力学中都是颠扑不破的真理:如果「盲目信仰」真的能作为一种有效的调查手段,那你就能空手套白狼地把温水变成电和冰块。你只需要造一个对分子运动速度抱有「盲目信仰」的麦克斯韦妖就行了。

认知引擎与热力学引擎并没有那么大的不同,只不过它们操纵熵的形式比燃烧汽油要微妙得多。例如,如果一个认知引擎不是完美高效的,它就不可避免地会辐射出「废热」,就像汽车发动机或电冰箱一样。

「冰冷的理性(Cold rationality)」在某种意义上是绝对真实的,但好莱坞的编剧们做梦也想不到它究竟「冷」在何处(而在他们梦到的那种冷酷无情的意义上,它又是假的)。

所以,除非你能明确告诉我,你的论证中到底是哪个具体的步骤违反了物理定律,从而让你凭空获得了对未知事物的真实知识;否则,别指望我会相信那些长篇大论、花里胡哨、抖机灵的辩经能够做到这一点。


总目录:

《理性:从人工智能到僵尸》导读与目录

卷:

第四卷:纯粹的现实

章节:

合乎法则的真相

上一篇:

在实验室之外

下一篇:

永动机信念
Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.1-pro,校对 Jarrett Ye
原文:The Second Law of Thermodynamics, and Engines of Cognition

参考

1. 熵与简短的编码 ./2057779518157370998.html
2. 互信息与事物空间中的密度 ./2059600041661272639.html

专栏:理性 & 克服偏见


← 返回目录