← 返回目录


我童年的榜样

学校≠教育≠技能;文凭溢价=80%信号传递+20%人力资本

43 👍 / 1 💬

每当我做关于智能爆炸(intelligence explosion)的演讲时,我经常会画出这样一张日常生活中人们对「智力阶层」的认知图:

但这绝对是一种极其狭隘(井底之蛙般)的智力观。当然,在日常生活中,我们在社交上只跟其他人类打交道——只有人类才是这场社会大博弈中的玩家——所以我们日常能碰到的心智极限,也无非就是从村口的傻子到爱因斯坦。但是,当我们需要探讨人工智能,或者探讨理性认知在理论上的最优极限时,我们真正需要用到的智力图谱是长这样的:

对我们人类来说,智力的台阶似乎就是从底部的「村夫傻子」一路爬到顶部的「爱因斯坦」。然而,如果把坐标系放在所有可能的大脑设计空间里,「村夫」到「爱因斯坦」的距离根本微乎其微。爱因斯坦和那个村夫一样,都有一个前额叶皮层,一个海马体,一个小脑……

也许爱因斯坦在基因底层的引擎微调上,比那个村夫稍微出色那么一丁点儿。但爱因斯坦和村夫在大脑架构设计上的差异,绝对远远小于那个村夫和一只黑猩猩之间的设计差异。黑猩猩是看不出爱因斯坦和村夫有什么区别的;等到我们的后代进化得足够高等时,他们可能也同样看不出这两人有什么区别。

卡尔·舒尔曼(Carl Shulman)曾观察到,一些在学术圈里大谈特谈超人类主义(transhumanism)的学者,似乎也是在用下面这种比例尺来衡量智力的:

道格拉斯·霍夫斯塔特(Douglas Hofstadter,著名认知科学家)在 2006 年的奇点峰会上,居然也说过类似的话。他盯着我那张把「村夫」跟「爱因斯坦」紧紧挤在一起的图,说:「我觉得你画错了;我认为爱因斯坦应该被远远地甩在最右边才对。」

我当场被惊得说不出话来。特别是考虑到这可是道格拉斯·霍夫斯塔特,我童年时代的偶像之一。这句话彻底暴露出了一道我甚至从未想象过会存在的文化鸿沟[1]。

你要知道,对我来说,你只有走到这根智力轴极靠右侧的地方,才能找到类似于「木星大脑(Jupiter Brain,一种行星级计算集群)」的存在。而爱因斯坦的脑子在字面物理意义上显然没有一颗行星那么大。

在智力轴的右侧,你会看到「深思(Deep Thought)」——我说的是道格拉斯·亚当斯(Douglas Adams)在《银河系漫游指南》里最初构想的那个版本,而不是那台只会下国际象棋的电脑。这台超级计算机是如此的聪明,以至于在它那庞大的数据库接通之前,当它刚被开机的那一瞬间,它从「我思故我在」开始推演,竟然在人们来得及把它关掉之前,就已经一路推导出了「大米布丁」和「个人所得税」的存在。

继续往智力轴的右侧走,你会看到阿里西亚长老(Elders of Arisia,《透镜人》系列中的超级种族)、银河级超群智、俄罗斯套娃脑(Matrioshka brains),以及那些更为高级的上帝形态。而在坐标轴最右端的极致尽头,盘踞着古老者(Old One)和瘟疫(the Blight,弗诺·文奇小说中的反派超智能)。

这上面根本特么的没有爱因斯坦。

我当然确信,对于一个人类碳基生物而言,爱因斯坦确实聪明绝顶。我也确信,一艘「通用系统运载船(General Systems Vehicle,《文明》系列中的超智飞船)」看着爱因斯坦,大概会觉得这小家伙真是可爱极了。

我之所以把它称为「文化鸿沟」,是因为我在 12 岁的时候,就已经接触到了「木星大脑」这种概念。

当然,现在你知道了,我脑子里装的这些全都是「把虚构故事当成普遍真理」的逻辑谬误[2]。

但这绝对可以作为一个极佳的例子,说明为什么——抛开逻辑谬误不谈——我强烈怀疑阅读科幻小说确实对培养未来主义视角大有裨益。有时候,如果你不用虚构的视野去认识一下你自己世界之外的可能世界,你就会死死地陷入一种被彻底锁死在当前时代的心智模式里:在这种心智里,人类存在,人类一直存在,而且人类永远都会以现在这种形态存在下去。

宇宙可是已经诞生了 137 亿年了,朋友们!而晚期智人(Homo sapiens sapiens)在地球上溜达的时间,满打满算也就大概十万年左右!

不过话又说回来,我也确实遇到过一些一辈子没读过科幻小说的人,他们似乎也能够跳出自己的世界去想象。而同样也有些狂热的科幻粉丝,死活就是转不过这个弯来。我真希望我知道「转过弯来」需要的那种特质到底是什么,这样我就能把它装进瓶子里批量售卖了。

在上一篇文章中,我想探讨的是关于极其高效地压榨利用感官证据,也就是说,爱因斯坦作为一个人类确实很可爱,但在一种绝对的评价体系下,他利用信息的效率,大概也就跟美国国防部(冗员且低效)差不多。

所以我只能去虚构一个由成千上万个爱因斯坦组成、花了数十年时间死磕每一帧画面的文明[3]。因为如果我仅仅描绘了一个装在盒子里、透过网络摄像头观察世界的贝叶斯超级智能,人们立刻就会钻牛角尖:「可是……它怎么知道如何解释一张 2D 的图片?」 他们根本不会试着把自己代入到那台机器的位置上去思考,哪怕那台机器被冠以「贝叶斯超级智能」的头衔;他们甚至都不愿意动用他们自己的创造力,去想一想如何从一堆二进制像素网格中去提取物理信息。

在他们脑海里,那不过就是一个碰巧被称为「贝叶斯超级智能」的、被装进盒子里的幽灵。由于这个幽灵并没有事先被输入一本《如何识别网络摄像头画面》的指南,所以,在他们那贫乏的心理模型里,这个幽灵肯定就啥也不知道。

至于假设一个贝叶斯超级智能能够「做到这一切」到底现不现实……也就是我在刚坐下来思考这个难题时、一边想一边顺手敲进故事里的那些逆向推导……

好吧,让我这么说吧:还记得杰弗里塞(Jeffreyssai)[4]在上一篇是怎么指出的吗?如果产生一个极其重大的洞见需要耗费的脑力不超过 5 分钟,那么在理论上,你一个月的时间就足够产出 5,760 个洞见了?当然,前提是假设你每天睡 8 个小时,并且在睡觉时不会产生任何重要洞见。

现实中,人类当然无法如此高效地压榨自己。这是因为,人类的大脑在进化时,根本就不是为了干「科学研究」这种活儿而设计的。人类大脑的进化配置,是为了在非洲大草原上追赶羚羊、用长矛把它们戳死、把它们烤熟,然后——这大概是耗费大脑算力最多的一步——绞尽脑汁地用各种诡辩证明自己理应分到更大块的烤肉。

阿尔伯特·爱因斯坦竟然能奇迹般地改造了这样一个为了抢肉吃而设计的大脑,让它去执行物理学的演算任务,这简直令人惊叹。这绝对值得掌声。这值得远超掌声的赞誉,这值得被载入吉尼斯世界纪录。这就像是你硬生生地用一堆软趴趴的果冻,成功拼装出了一辆有史以来跑得最快的超跑一样不可思议。

那位盲目痴愚的外星神明[5](自然进化),在设计人类大脑时,到底有多敷衍、多糟糕?

这必须等你深入钻研了认知科学之后,直到那毛骨悚然的恐怖真相开始在你心头浮现,你才能彻底体会。

我们在本书里讨论过的所有那些认知偏误,至少应该能给你一点暗示了。

同理,人类大脑必须动用其几乎全部的心智算力,调动数万亿个神经突触疯狂放电,才能在没有纸和笔的辅助下,勉强心算出两个三位数的乘法。

就像爱因斯坦根本无法极限压榨他那少得可怜的感官数据一样,他的大脑同样无法极限压榨他那数以亿计的神经元放电算力。

当然,我说这些话,心里确实藏着些别的动机。但也请你们明白,许多年前,当我立志成为一名理性主义者时,那个指引着我、让我魂牵梦绕、那种不可能达到、无法企及的「智能」理想,从来都不是爱因斯坦。

卡尔·舒尔茨(Carl Schurz)曾说:

理想就像天上的繁星。你永远无法用双手触摸到它们。但是,就像航行在无垠汪洋上的水手一样,你选择它们作为你的灯塔,追随它们,你最终必将抵达你的命运。

所以现在,你已经瞥见了我童年时代最伟大的榜样之一——那个关于超级 AI 的梦。当然,这只是个梦,因为现实中这种东西还不曾存在。很久以前,我曾向着那个梦想伸出双手。

这在某种程度上极大地帮助了我,但也在某种程度上伤害了我。

因为有些理想就像梦境:它们是从我们内心深处涌现的,而不是外部世界赐予的。阿里西亚导师(Mentor of Arisia)不过是科幻作家 E·E·「博士」·史密斯的想象,绝非真实的存在。如果你在脑海里想象一个贝叶斯超级智能会说什么,那终究只是你自己的大脑在自问自答。它不像天上的星星,你可以从外部现实中去追随它的轨迹。你必须在虚空中盲猜你的理想到底在哪里,如果你猜错了,你就会误入歧途。

但是,千万不要把你的理想局限于现实中那些干巴巴的星星,局限于真实存在过的、平庸的普通人类,尤其是如果他们比你早出生了五十多年而且早就化为尘土了的话。每一个后来者世代,都拥有绝对的机会去做得更好。如果让你的理想天花板仅仅由曾经的人类组成,尤其是死人,那你就是把自己作茧自缚在了人类已有的成就中[6]。你会诚惶诚恐地问自己:「我真的敢去挑战爱因斯坦都没做到的事吗?这难道不是大逆不道、冒犯先贤(lèse majesté)吗?」 拜托,如果爱因斯坦当年成天坐在那里问自己:「我被允许做得比牛顿更好吗?」他早就被困死在原地了。这就是把现实偶像当星星追的致命问题;在最理想的情况下,你也仅仅只能抵达那颗旧星星的高度。

你所身处的这个时代,在那些你没有意识到的底层假设上,在那些潜移默化改进的思维技术上,给予你的支撑远远超乎你的想象。爱因斯坦是个好人,但他喋喋不休地谈论了一大堆关于某种「非人格上帝」的废话,这就足以证明他在跳出自己的物理领域、在更高的抽象层级上进行极其谨慎的思考[7]的艺术上,其实理解得相当有限。如果你能在脑海中至少捏造出一个虚构的银河级超级心智来跟爱因斯坦做对比,从而把他从你智力天花板最右端的王座上拽下来;那么,去指出爱因斯坦也犯过蠢[4],在你听来似乎就不那么像是对神明大逆不道了。

如果你仅仅只去尝试做那些看起来「人力所能及」的事情,那你对自己的要求实在太低了。当你想象自己正在朝着某个极其崇高、极其不便的高难目标攀登时,所有关于它为什么「不可能做到」的便捷借口,瞬间就会争先恐后地跳进你的脑海。

最伟大的榜样永远是梦想:它们源自我们内心的深处。如果你做梦都不敢去梦见你所能构想出的最极致的完美,那你连你体内那个「负责做梦」的灵魂的全部力量,都没有彻底压榨出来。


总目录:

《理性:从人工智能到僵尸》导读与目录

卷:

第四卷:区区现实

章节:

科学与理性

上一篇:

那条外星信息

下一篇:

爱因斯坦的超能力
Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.1-pro,校对 Jarrett Ye
原文:My Childhood Role Model

参考

1. 被低估的推断距离 https://hpmor.xyz/ai2zb_9/
2. 从虚构证据中归纳:一种逻辑谬误 ./1935633364460766155.html
3. 那条外星信息 ./2104613351229863044.html
4. 旧世代科学的失败 ./2100905602411251643.html
5. 一位陌生的神祇 ./2017209895406035933.html
6. 真理的卫道士 ./1993332131317970026.html
7. 在实验室之外 ./2068631832942338672.html

专栏:理性 & 克服偏见


← 返回目录