← 返回目录


广义反僵尸原则与巨型查找表

学校≠教育≠技能;文凭溢价=80%信号传递+20%人力资本

18 👍 / 2 💬

在《僵尸那超乎想象的荒谬性》一文中,丹尼尔·丹尼特(Daniel Dennett)写道:[1]

迄今为止,有好几位哲学家对我说,他们打算接受我的挑战,为僵尸提供一种非乞题(不陷入循环论证)的辩护;但我目前看到的唯一一种辩护,竟然是去假设一种在「逻辑上可能」、但在现实中极其魔幻的存在——那就是内德·布洛克(Ned Block)所设想的「巨型查找表(Giant Lookup Table)」的变体……

所谓巨型查找表,用程序员的行话来说,就是你把一个函数直接实现为一个罗列了所有输入和对应输出的庞大表格,通常是为了节省运行时的计算算力。如果我的程序需要知道 1 到 100 之间任意两个输入的乘积,我可以写一个每次调用时都会进行运算的乘法算法,或者,我也可以预先计算出一个包含 10,000 个条目和两个索引的巨型查找表。在某些特定情况下,你确实会想要这么做(尽管一般不是为了做乘法)——比如当你需要极其频繁地重复调用这个函数,且它的可能输入并不多时;或者当你初始化时的时钟周期(CPU 算力)非常廉价,而执行时的时钟周期却极其昂贵时。

巨型查找表的体积膨胀速度是极其恐怖的。即使我们只使用包含 850 个单词的基础英语(Basic English),想要穷举出一个每句只包含 10 个词、总共 20 个回合的所有可能对话的巨型查找表(GLUT),也需要惊人的  7.6 \times 10^{585} 个条目。

如果想用一个穷举了所有可能的感官输入和肌肉运动输出(基于某种极其精细的数字化方案)的巨型查找表来替换人类的大脑,这需要消耗极其不讲理的巨大内存空间。但是「在理论上(in principle)」,正如哲学家们最喜欢说的那样,这是办得到的。

这台 GLUT 机器并不是传统意义上的哲学僵尸,因为它的微观物理结构与人类截然不同。(事实上,GLUT 根本无法在与人类相同的物理法则下运行;因为它实在太大了,大到我们这个宇宙根本装不下它。但为了进行哲学思辨,我们将姑且忽略这一点,假设存在无限量的内存存储空间。)

但,这台 GLUT 机器到底算不算僵尸?换句话说,它是否在没有主观意识的情况下,表现出了与人类绝对一模一样的行为?

被 GLUT 驱动的躯体,它的舌头能够侃侃而谈关于意识的话题,它的手指能敲出长篇的哲学论文。从各方面来看,只要你不去掀开它的头盖骨往里看,这台 GLUT 机器表现得就跟一个真正的人类毫无二致……这看起来绝对是一个成立的「哲学僵尸」范例:它的行为举止完全像个人类,但那具躯壳里根本没有人在。

除非,这台 GLUT 机器本身其实是有意识的;如果那样的话,它就不再是一个成立的僵尸范例了。

我不记得自己曾经看到过任何人声称一台纯粹的 GLUT 是有意识的。(必须承认,我在这方面的阅读量还没达到专业级学者的程度;如有错漏,请不吝赐教。)甚至连那些被痛批为(倒吸一口凉气!)功能主义者的人,也不会声称一台依靠死记硬背查表的 GLUT 能够拥有意识。

对于那些认为「意识只不过是一种特定的输入-输出模式」,从而彻底打发掉「大脑内部究竟在发生什么」这类烦人问题的人来说,GLUT 就是用来反驳他们的终极归谬法(reductio ad absurdum)。

那么,广义反僵尸原则(Generalized Anti-Zombie Principle, GAZP)[1]对巨型查找表(GLUT)又是怎么看的呢?

乍看之下,一台 GLUT 机器似乎就是个典型的「僵尸之主」——一个独立的、附加的、可被实验检测的、毫无意识的系统;是它在背后赋予了僵尸以行动力,并让僵尸出于完全不同的物理原因,满嘴跑火车地谈论意识。

在 GLUT 机器的内部,仅仅运行着一个极其简单的、只负责核对输入并调取对应输出的计算机程序。在这种情况下去谈论什么「简单的计算机程序」甚至都算抬举它了。GLUT 相比于一块能运算的 CPU,它更像是一块纯粹用来死记硬背的只读存储器(ROM)。我们完全可以用一套极其原始的物理机械来等效描述它:一系列可以切换的轨道,一些小球顺着预先设定好的储物架滚出来,然后落进相应的槽里——句号;这就是这台 GLUT 机器所做的一切。

某位来自「善待僵尸组织(PETZ)」的发言人反驳道:「哦,所有反对机械论的人都会说这套说辞,不是吗?当你们打开人类的大脑往里看时,你们发现的也不过是一堆释放着神经递质、打开离子通道的化学机械啊?如果离子通道的开合能够产生意识,凭什么机械杠杆和小球滚进槽里就不行?」

「问题不在于是不是机械杠杆,」功能主义者回答说,「问题在于,GLUT 里面的杠杆组成的是错误的模式。你需要那些能够实现比如『形成关于信念的元信念』,或者『自我建模』等高级算法的杠杆组合……见鬼,你至少得需要有能够把数据写入内存的能力,哪怕只是为了让计算能经历时间流逝产生状态变化。除非你认为你可以直接用 Haskell(一种以抽象著称的纯函数式编程语言)写出一个有意识的生命体。」

「我才不管那些,」PETZ 的发言人说,「我只知道,这台被你们称为僵尸的机器,实实在在地写出了关于意识的哲学论文。如果这些哲学论文不是源自于意识,那它们究竟是从哪儿冒出来的?」

问得好!让我们来深入探究一下这个问题。

在物理学里,有一个名为「追踪能量(Follow-The-Energy)」的游戏。理查德·费曼的父亲曾带着小费曼玩过这个游戏:

这正是我父亲喜欢和我聊的那类话题:「是什么让这玩意儿动起来的?万物之所以运转,全都是因为太阳在发光。」 然后我们就会饶有兴致地讨论下去:
「不对,这个玩具能动是因为发条被拧紧了,」我会这样说。「那发条又是怎么被拧紧的呢?」他会反问。
「是我拧紧的呀。」
「那你又是怎么有劲儿去拧它的呢?」
「因为我吃了饭。」
「而食物之所以能生长,完全是因为太阳在发光。所以,归根结底,正是因为太阳在发光,所有这些东西才会动起来。」 这就是他想传达给我的物理概念:世间一切运动,不过是太阳能量的转化而已。[2]

随着你慢慢长大,你学到了能量是守恒的,既不能凭空创造也不能凭空消失;所以,说「消耗了能量」在物理上其实不太严谨。既然你永远无法改变能量的总量,那你在什么意义上算是「使用」了它呢?

因此,当物理学家们成熟之后,他们学会了玩一个名为「追踪负熵(Follow-The-Negentropy)」[2]的新游戏——这实际上跟他们以前玩的是同一个游戏;只不过现在的规则更有数学味了,这个游戏在科学上也更加好用了,但其背后的物理原理在概念理解上也变得更难了。

而理性主义者们,则学会了一个名为「追踪不可能性(Follow-The-Improbability)」[3]的游戏,这可以看作是「你到底是怎么知道的?」这个童年追问的硬核成人版。理性主义者这个游戏的铁律是:任何看起来发生概率极低的(荒谬)信念,都需要有同等份量(同等信息量)的证据来为其正名[4]。(你会发现,这个游戏的规则,与追踪负熵有着极其惊人的相似性。)

每当有人违反了理性主义者的游戏规则,你总能在他们的论证链条中找到一个致命的断点:在那个地方,一大坨「不可能性」如同魔法般凭空冒了出来[3];这就像是,哎呀,比方说,看到一个由一堆轮子和齿轮拼装起来的、号称能永远自己转下去的奇妙永动机一样,绝对是个出了大问题的信号。

有人跑来对你说:「我怀着无比坚定和持久的信念相信,在小行星带的某处,飘浮着一个一英尺宽、完完全全由巧克力蛋糕做成的东西;你是无法证明[5]这绝对不可能的。」但是,除非这个人能拿出某种真金白银的证据来支持这个信念;否则,人类的大脑凭空自发地生成一个如此精准且正确的奇葩信念,其概率绝对无限趋近于零。所以,要么这个人能拿出实打实的证据,要么他这个信念绝对会被证明是胡说八道。「可是你也没法证明,我的大脑绝对不可能凭纯粹的运气,自发产生一个碰巧正确的信念啊!」没错,但那种毫无根据的自发产生,是极其、极其小概率的事件;这概率就像是,哦,比方说,一盘被炒碎的鸡蛋突然自己缩回成一个完好无损的生鸡蛋一样离谱。

在「追踪不可能性」的游戏里,如果你在没有掌握足够证据去大幅缩小可能假设空间[6]的情况下,哪怕只是煞有介事地谈论某一个极其具体的刁钻假设,都是极其可疑的。凭什么你不给其他那一百万亿个同样看似合理的刁钻假设同等的曝光时间?你必须依靠足够强大的证据,才能在浩如烟海的假设空间里精准定位到「小行星带里的巧克力蛋糕」这个假说——否则,你就完全没有理由给它比其他那一万亿个诸如「小行星带里有个木制梳妆台」或「飞行面条神怪物吐在了我的运动鞋上」等候选假设更多的讨论空间。

在「追踪不可能性」中,你绝对不能在没有预先获得等价份量证据的情况下,凭空变出一个宏大、复杂且细节极其具体的假设;因为如果认为你能够通过纯粹的巧合,就不偏不倚地开始讨论那个真实的假设,这简直是痴人说梦。

一位哲学家跑来说:「这台僵尸机器的头骨里,塞着一个巨型查找表(GLUT),里面记录了某个真实人类大脑所有的输入和对应的输出。」这是一个发生概率极其微弱的事件(非常大的不可能性)。所以你理应追问:「这个概率极低的事件究竟是怎么发生的?这台 GLUT 到底是从哪儿来的?」

要知道,这可不是思想实验中标准的哲学套路。在标准的哲学套路里,你被允许随便假设诸如「假设你骑在一束光上……」之类的情景,而完全不需要操心这在物理上是否可能,更别提去算它发生的概率有多低了。但在这个关于僵尸的特定案例中,GLUT 诞生的起源至关重要;这就是为什么你必须深刻理解这个核心追问:「这庞大的不可能性到底是从哪儿来的?」

最合乎逻辑的答案是,你先拿到了一份关于真实人脑运算架构的精确数字蓝图,然后你利用这份蓝图,预先计算出了那张巨型查找表。(为了完成这个穷举计算,你不可避免地在计算机内部模拟创造了无数个无辜的人类意识,其中一些人被置于极度痛苦的输入之中,而绝大多数人由于面对的是一个输入与输出毫无逻辑关联的混沌宇宙,彻底陷入了疯狂。但管他妈的什么伦理道德,我们这可是在搞哲学呢。)

在这种情况中,这台 GLUT 机器确实是由于一个有意识的底层算法存在,所以才写出了关于意识的论文。这台 GLUT 机器根本就不是僵尸,这就好比你不能因为一部手机明明只是一台小小的消费电子产品却能流利地谈论意识,就指着手机说它是个「僵尸」。手机不过是在将电话线另一头某个大活人发表的哲学演讲传输过来罢了。一台通过真实人类大脑的图纸生成出来的 GLUT,做的事情跟手机一模一样。

「好吧,」哲学家辩解道,「那如果这台 GLUT 是完全随机生成的呢,它只是碰巧在输入和输出关系上与某个作为参照的人类一模一样。」

那你倒是说说看,你究竟是如何「随机」生成这台 GLUT 的?

「我们使用了一个真正的随机源——一台量子设备。」

但是,量子设备只是完美地执行了「双向分支(Branch Both Ways)」的物理指令;当你利用量子随机源生成一个比特时,其决定论下的物理现实是:一组宇宙分支(局部相连的概率幅云)看到了 1,而另一组宇宙分支看到了 0。重复抛 4 次量子硬币,你就在物理现实中创造了 16(组)平行的宇宙。

所以,老实说,你这说法等同于:你找来一个真他妈巨大无比的、能装下所有可能查找表的超级大箱子,在里面塞满了所有可能存在的、体积达到 GLUT 级别的由 0 和 1 组成的序列表;然后你随手把手伸进箱子,以某种不可思议的魔法,从中摸出了一个恰好与人类大脑的输入输出特征完美对应的 GLUT。这份天大的不可能性,到底是从哪儿借来的?

因为,如果这不仅仅是一个逆天的巧合——如果你使用了某种「把手伸进箱子」的函数,而且这个函数是靠精心设计而非纯粹运气,精准地把那个「人类对应的 GLUT」给挑了出来——那么,那个负责「把手伸进箱子去挑选」的函数,大概率本身就是有意识的;所以,这台 GLUT 又一次变成了一部替人发声的「手机」,而不是一个毫无意识的「僵尸」。它只是跟人类的联系中间隔了两层中介,而不是一层,但它骨子里仍然是一部手机!想在里面掩盖不可能性的来源,这招玩得挺溜,可惜骗不了人!

现在,请看「追踪不可能性」把我们带到了什么样的认知高地:这具没有意识的躯壳,它的舌头能侃侃而谈关于内部倾听者的话题,这个现象的真正源头究竟在哪儿?意识显然不在那个死板的查找表里。意识也不在那个能流水线制造出海量无意义查找表的工厂里。意识存在于那个用手指着某个已经造好的特定查找表,然后下令说:「就是那个,用它!」的神秘实体之中。

你现在应该明白我为什么非要引入「追踪不可能性」这个游戏了吧。在日常生活中,当我们与一个人交谈时,我们往往会理所当然地认为,那人头骨里装的随便什么玩意儿,肯定就是「意识栖息的地方」。只有通过玩「追踪不可能性」这个游戏,我们才能穿透表象,意识到我们正在进行的这场对话的真正源头,其实是那个为这场对话的极低概率负责(买单)的东西——无论它在时间或空间上离我们有多遥远;这就好比,让那个上了发条的玩具车跑起来的,其实是遥远的太阳。

「不,不!」哲学家急得跳脚了。「在我的思想实验里,他们可不是先随机生成一大堆 GLUT,然后用一个有意识的算法去从中挑出一个看起来像人类的!我是在白纸黑字地规定:在这个思想实验中,他们把手伸进那个大到无法想象的 GLUT 盲盒里,并且纯粹靠着无法解释的逆天狗屎运,一把就摸出了那个输入输出跟人类大脑丝毫不差的 GLUT!好啦!现在我把你逼到死角了!你没法再玩什么『追踪不可能性』的把戏了!」

哦。所以,你这条蛮横的口头规定(specification),就是这个实验里所有不可能性的魔法来源啊。

当我们再次启动「追踪不可能性」的探照灯时,我们最终走出了思想实验本身,把探照灯的光束死死地打在了那位哲学家的脸上。

在浩如烟海的无数可能性空间中,究竟是什么东西,精准地指向了那唯一一个能流利谈论意识的 GLUT?现在的答案是……正是这位正要求我们脑补这整个荒诞场景的有意识的哲学家。此外,还有我们自己那极其有意识的大脑;因为当我们试图想象「当有人对这台 GLUT 说『聊聊你内心的那个倾听者吧』时,这台 GLUT 会作何反应?」时,是我们自己的大脑在暗中填补了所有的剧情空白。

这个故事的寓意是:当你顺着那些关于「意识」的高谈阔论一路回溯时,你通常最终都能找到真实的意识。它并不总是大大方方地摆在你眼前。有时候它被隐藏得极其狡猾。但它绝不缺席。这,正是「广义反僵尸原则」的精髓所在。

如果真的有一个类似「僵尸之主」的聊天机器人,它能熟练处理并重新混合人类外行关于「意识」的口水话语料库;那么,当初创造出那堆原始文本语料库的那些人类,绝对是有意识的。

如果某天你彻底顿悟了意识的原理,然后你回过头来,发现你完全可以自己写出一个程序,这个程序它本身毫无意识,但它输出的那些逻辑混乱的哲学黑话听起来却跟人类极其神似——那么,如果我问你「这个程序是怎么做到听起来像人类的?」答案其实是:因为你在编写它时,刻意照着有意识的人类的样子去塑造了它,而不是照着其他随便什么标准。这并不意味着你写的那个小小的僵尸之主程序有了意识——但这确实意味着,我完全可以通过逆着因果链条往上爬,在宇宙的某个角落里揪出一个真正的意识实体来;这也就意味着,我们并非完全身处在一个冰冷死寂的「僵尸世界」里。

但假设,真的有某个人把手伸进了 GLUT 盲盒,并且真的纯粹靠着逆天改命的绝对运气,一把就摸出了一个能写出哲学论文的 GLUT 呢?

嗯,那这个被摸出来的 GLUT 肯定是没有意识的。至少依我浅见是这样。

我的意思是,意识这玩意儿,总归得比纯粹的把戏输入输出多点什么实质性的内涵吧。

不然的话,难道连一张死板的查表清单也能拥有意识不成,对吧?

哦,对于那些好奇这堆哲学思辨跟我平时的本职工作(day job)有啥关系的人……

在我们搞人工智能对齐的这一行里,你会遇到极多的人,他们天真地以为:随便搞出一个参数爆炸、性能逆天的 AI,它自然而然就会是个「有道德的」乖宝宝。他们甚至连「为什么会这样」或者「他们口中的『道德』到底是个什么鬼意思」都无法在内部达成一致;但他们却不约而同地坚信,去研究什么「友好人工智能(Friendly AI)」理论纯属脱裤子放屁。当你追问他们,一个随机生成的 AI 怎么就那么巧能输出符合人类道德的行为时,他们会滔滔不绝地抛出一大堆旨在投喂给 AI 的、极其精巧的合理化说辞[7],内容全都是他们自认为「道德」的东西。这其中漏洞百出,但最核心的致命伤在于:「你凭什么确定,那个 AI 会乖乖顺着你为了向人类推销你的道德观而绞尽脑汁发明的脑回路去思考?要知道,它可不像你,它在出厂时根本不知道你想让它证明什么结论!」你完全可以把这种反驳的原则称为「追踪决策信息(Follow-The-Decision-Information)」,或者类似的什么名字。如果你能向我清晰地解释,你是如何在浩如烟海的可能性空间中,精准地挑选出了这个 AI 的架构设计,那我确实能理解为什么这个 AI 会做出极其不可思议的善举;否则,这种不可思议的善良就是被你从虚空中强行变出来的魔法——尽管随着合理化的前提被进一步强行合理化,这层魔法伪装会被包得越来越严实。

所以,我其实早就写过一整个系列的文章,在那里面,我自己就曾使用过[8]「追踪不可能性」的分析方法。但我当时并没有把这些规则明确地写出来,因为我还没来得及写关于热力学(永动机信念)[3]的系列文章……

只是想顺便提一嘴而已。其实挺不可思议的:我写的这么多文章,最后竟然都「碰巧」包含了与友好人工智能(Friendly AI)理论高度相关的核心思想……当然,前提是你是个相信「纯属巧合」的人。


[1] Daniel C. Dennett, “The Unimagined Preposterousness of Zombies,” Journal of Consciousness Studies 2 (4 1995): 322–26.

[2] Richard P. Feynman, “Judging Books by Their Covers,” in Surely You’re Joking, Mr. Feynman! (New York: W. W. Norton & Company, 1985).


总目录:

《理性:从人工智能到僵尸》导读与目录

卷:

第四卷:区区现实

章节:

物理主义导论

上一篇:

广义反僵尸原则

下一篇:

相信必然蕴含的不可见事物
Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.1-pro,校对 Jarrett Ye
原文:GAZP vs. GLUT

参考

1. 广义反僵尸原则 ./2091826482167522750.html
2. 热力学第二定律与认知引擎 ./2069478246668939394.html
3. 永动机信念 ./2070084674295279996.html
4. 支持一个信念需要多少证据? https://hpmor.xyz/ai2zb_23/
5. 绝对权威 ./827910633.html
6. 爱因斯坦的傲慢 https://hpmor.xyz/ai2zb_24/
7. 虚假的优化标准 ./2023844708217037671.html
8. 真正属于你 https://hpmor.xyz/ai2zb_45/

专栏:理性 & 克服偏见


← 返回目录