← 返回目录


引用并非所指

学校≠教育≠技能;文凭溢价=80%信号传递+20%人力资本

17 👍 / 1 💬

在经典逻辑中,同一性的操作定义是:只要 A = B 是一个定理,你就可以在任何出现 B 的定理中用 A 来替换 B。例如,如果 (2 + 2) = 4 是一个定理,且 ((2 + 2) + 3) = 7 也是一个定理,那么 (4 + 3) = 7 必定是一个定理。

这就引出了一个通常被表述为如下形式的悖论:晨星(morning star)和暮星(evening star)碰巧是同一个天体——金星(Venus)。假设 John 知道晨星和暮星是同一个天体。然而,Mary 却认为晨星是路西法(Lucifer)神,而暮星是维纳斯(Venus)神。John 知道「Mary 相信晨星是路西法」。那么,(通过等价替换法则)John 是否必须相信「Mary 相信暮星是路西法」呢?

这里还有一个更简单的悖论版本。陈述「2 + 2 = 4」是真的;也就是说,((2 + 2) = 4) = 真 是一个定理。而《费马大定理》也是真的。所以根据替换原则:我相信 2 + 2 = 4 \Rightarrow 我相信「真」 \Rightarrow 我相信《费马大定理》。

是的,我知道这看起来显然是错的。但请想象一下,有人在编写一个逻辑推理程序时,真的采用了「相等的项总是可以随意替换」这个原则,然后结果这个程序就遇到了这种死循环。现在再想象一下,他们为了防止这种情况发生专门写了一篇论文。接着再想象一下,另一个人对他们的解决方案表示不赞同。这方面的争论直到今天还在继续。

就我个人而言,我会说 John 犯了一个「类型错误(type error)」,这就像是试图从 20 米的长度中减去 5 克的重量一样。「晨星」这个词与晨星这颗星球根本不属于同一个类型,更别说它们是同一个东西了。信念(Beliefs)又不是行星(planets)。

晨星 = 暮星
「晨星」 \neq 「暮星」

在我看来,这个问题的根源在于,人们未能强制区分出「关于事物的信念」与「事物本身」之间的类型差异。最初的那个错误在于:在编写 AI 时,程序用它存储「关于晨星的信念」的同一种数据表示结构,去存储了「关于 Mary 对『晨星』的信念的信念」。

如果 Mary 相信「晨星」是路西法,这绝对不意味着 Mary 相信「暮星」也是路西法,因为「晨星」 \neq 「暮星」。整个悖论完全源自于未能在恰当的地方使用引号。

你或许还记得,这已经不是我第一次谈论要严格遵守类型规范(type discipline)了——上一次是在我谈论混淆期望效用与效用本身[1]的错误时。当一个人刚开始学物理时,学会时刻追踪单位是极其有用的——一直不厌其烦地写下「cm」、「kg」之类的前缀看起来或许是个累赘,直到有一天你突然发现:(a)你算出来的答案在数量级上错得离谱;并且(b)它的单位居然是「秒每平方克」。

同样地,信念和行星是截然不同的两种东西。至少,如果我们谈论的是人类的信念,那么:信念存在于大脑中,而行星存在于宇宙空间里。信念只有几微克重,行星可比那重多了。行星的体积远大于信念……好吧,你明白我的意思了。

仅仅在「晨星」两边加上引号,似乎还不足以防止人们因为文本在视觉上的相似性,而把它跟真实的晨星混为一谈。所以,或许能更好地强制执行类型规范的方法,是使用一种在视觉上截然不同的编码方式:

晨星 = 暮星
13.15.18.14.9.14.7.0.19.20.1.18 \neq 5.22.5.14.9.14.7.0.19.20.1.18

译注:即 morning star 与 evening star 的字母序号

学习数理逻辑也能帮你学会区分「引用语(引号内的词汇)」与「它所指代的实物」。在数理逻辑中,\vdash P(意思是 P 是一个定理)与 \vdash \square\ulcorner P\urcorner(意思是「这是可被证明的:在某个编码的证明系统中,存在一个针对被编码句子 P 的编码证明」)是两个截然不同的命题。如果你在数理逻辑中弄丢了一层引用引号,那就如同你在物理学中弄丢了一个公制单位一样——你将会推导出荒谬至极的结果,比如「光速是 299,792,458 米长」。

阿尔弗雷德·塔斯基(Alfred Tarski)曾经试图用无限的句子家族来定义「真理(true)」的含义:

「雪是白的」为真,当且仅当,雪是白的。
「黄鼠狼是绿的」为真,当且仅当,黄鼠狼是绿的。
\vdots

当类似这样的句子开始让你觉得合情合理、内含深意时,你就会知道,你已经开始懂得区分「编码后的句子」与「外部世界的真实状态」了。

同样地,「真理(truth)」[2]的概念与「现实(reality)」的概念也大不相同。说一件事是「真」的,是在将一个信念与现实进行比较。而现实本身不需要与任何信念进行比较,它天然就是现实。下次如果有人跟你诡辩说「这世上没有任何东西是真的」时,请务必记住这一点。


总目录:

《理性:从人工智能到僵尸》导读与目录

卷:

第四卷:纯粹的现实

章节:

还原论导论

上一篇:

概率存在于心智之中

下一篇:

定性思维导致的混淆


Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.1-pro,校对 Jarrett Ye
原文:The Quotation is Not the Referent

参考

1. 终极价值与工具价值 ./2041847079815926006.html
2. 简单的真实 https://hpmor.xyz/ai2zb_interlude_1/

专栏:理性 & 克服偏见


← 返回目录