在经典逻辑中,同一性的操作定义是:只要 是一个定理,你就可以在任何出现
的定理中用
来替换
。例如,如果
是一个定理,且
也是一个定理,那么
必定是一个定理。
这就引出了一个通常被表述为如下形式的悖论:晨星(morning star)和暮星(evening star)碰巧是同一个天体——金星(Venus)。假设 John 知道晨星和暮星是同一个天体。然而,Mary 却认为晨星是路西法(Lucifer)神,而暮星是维纳斯(Venus)神。John 知道「Mary 相信晨星是路西法」。那么,(通过等价替换法则)John 是否必须相信「Mary 相信暮星是路西法」呢?
这里还有一个更简单的悖论版本。陈述「」是真的;也就是说,
是一个定理。而《费马大定理》也是真的。所以根据替换原则:我相信
我相信「真」
我相信《费马大定理》。
是的,我知道这看起来显然是错的。但请想象一下,有人在编写一个逻辑推理程序时,真的采用了「相等的项总是可以随意替换」这个原则,然后结果这个程序就遇到了这种死循环。现在再想象一下,他们为了防止这种情况发生专门写了一篇论文。接着再想象一下,另一个人对他们的解决方案表示不赞同。这方面的争论直到今天还在继续。
就我个人而言,我会说 John 犯了一个「类型错误(type error)」,这就像是试图从 米的长度中减去
克的重量一样。「晨星」这个词与晨星这颗星球根本不属于同一个类型,更别说它们是同一个东西了。信念(Beliefs)又不是行星(planets)。
晨星 = 暮星
「晨星」 「暮星」
在我看来,这个问题的根源在于,人们未能强制区分出「关于事物的信念」与「事物本身」之间的类型差异。最初的那个错误在于:在编写 AI 时,程序用它存储「关于晨星的信念」的同一种数据表示结构,去存储了「关于 Mary 对『晨星』的信念的信念」。
如果 Mary 相信「晨星」是路西法,这绝对不意味着 Mary 相信「暮星」也是路西法,因为「晨星」 「暮星」。整个悖论完全源自于未能在恰当的地方使用引号。
你或许还记得,这已经不是我第一次谈论要严格遵守类型规范(type discipline)了——上一次是在我谈论混淆期望效用与效用本身[1]的错误时。当一个人刚开始学物理时,学会时刻追踪单位是极其有用的——一直不厌其烦地写下「cm」、「kg」之类的前缀看起来或许是个累赘,直到有一天你突然发现:(a)你算出来的答案在数量级上错得离谱;并且(b)它的单位居然是「秒每平方克」。
同样地,信念和行星是截然不同的两种东西。至少,如果我们谈论的是人类的信念,那么:信念存在于大脑中,而行星存在于宇宙空间里。信念只有几微克重,行星可比那重多了。行星的体积远大于信念……好吧,你明白我的意思了。
仅仅在「晨星」两边加上引号,似乎还不足以防止人们因为文本在视觉上的相似性,而把它跟真实的晨星混为一谈。所以,或许能更好地强制执行类型规范的方法,是使用一种在视觉上截然不同的编码方式:
晨星 = 暮星 。
译注:即 morning star 与 evening star 的字母序号
学习数理逻辑也能帮你学会区分「引用语(引号内的词汇)」与「它所指代的实物」。在数理逻辑中,(意思是
是一个定理)与
(意思是「这是可被证明的:在某个编码的证明系统中,存在一个针对被编码句子
的编码证明」)是两个截然不同的命题。如果你在数理逻辑中弄丢了一层引用引号,那就如同你在物理学中弄丢了一个公制单位一样——你将会推导出荒谬至极的结果,比如「光速是
米长」。
阿尔弗雷德·塔斯基(Alfred Tarski)曾经试图用无限的句子家族来定义「真理(true)」的含义:
「雪是白的」为真,当且仅当,雪是白的。
「黄鼠狼是绿的」为真,当且仅当,黄鼠狼是绿的。
当类似这样的句子开始让你觉得合情合理、内含深意时,你就会知道,你已经开始懂得区分「编码后的句子」与「外部世界的真实状态」了。
同样地,「真理(truth)」[2]的概念与「现实(reality)」的概念也大不相同。说一件事是「真」的,是在将一个信念与现实进行比较。而现实本身不需要与任何信念进行比较,它天然就是现实。下次如果有人跟你诡辩说「这世上没有任何东西是真的」时,请务必记住这一点。
总目录:
《理性:从人工智能到僵尸》导读与目录卷:
第四卷:纯粹的现实章节:
还原论导论上一篇:
概率存在于心智之中下一篇:
定性思维导致的混淆Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.1-pro,校对 Jarrett Ye
原文:The Quotation is Not the Referent
参考
1. 终极价值与工具价值 ./2041847079815926006.html2. 简单的真实 https://hpmor.xyz/ai2zb_interlude_1/