我童年的榜样
❦
当我讲授智能爆炸时，我常会画出一张图，表示智能尺度在日常生活中的样子：
但这其实是一种相当狭隘的智能观。没错，在日常生活中，我们在社会层面只会和其他人类打交道——只有其他人类才是那场大游戏里的同伴——因此，我们真正遇到的心智，也只会落在从 Village Idiot 到 Einstein 之间。可如果我们真正要谈论人工智能，或者理性的理论最优点，那么我们真正需要谈论的，是这样一条智能尺度：
对我们人类而言，智能的尺度似乎是从最底端的「Village Idiot」一直到最顶端的「Einstein」。可是在大脑设计空间里，从「Village Idiot」到「Einstein」的距离其实微不足道。Einstein 和 Village Idiot 都有前额皮层、海马体、小脑……
也许 Einstein 和 Village Idiot 之间确实有一些细微的遗传差异，像是对引擎做了点小调校。但 Einstein 与 Village Idiot 之间的大脑设计距离，根本没法和 Village Idiot 与黑猩猩之间的大脑设计距离相提并论。黑猩猩分不出 Einstein 和 Village Idiot 的区别，而我们的后代大概也不会觉得这两者差别有多大。
Carl Shulman 观察到，一些谈论超人类主义的学者，似乎使用的是下面这条智能尺度：
Douglas Hofstadter 在 2006 年的 Singularity Summit 上，真的说过大致类似的话。他看着我那张把「Village Idiot」放在「Einstein」旁边的图，说：「这在我看来不对；我觉得 Einstein 应该被放到很右边去。」
我当场说不出话。尤其是因为这可是 Douglas Hofstadter——我童年时代的英雄之一。这暴露出了一道我此前从未想象过会存在的文化鸿沟。
你看，对我来说，尺度右侧会出现的是木星脑（Jupiter Brain）。Einstein 可并不是真的有一颗行星那么大的脑子。
在尺度右侧，你会看到 Deep Thought——谢谢，指的是 Douglas Adams 最初写的那个版本，不是那个下棋程序。那台电脑聪明到：它那惊人的资料库甚至还没接通，第一次开机时，就从**「我思故我在」**一路推导到了米布丁和所得税的存在，直到人们终于来得及把它关掉为止。
再往右边，你会看到 Arisia 的 Elders、银河级超心智、套娃脑（Matrioshka brains），以及更高档次的神。在这条尺度的最极端右端，则是 Old One 和 Blight。
才不是见鬼的 Einstein。
我当然相信，Einstein 作为一个人类已经非常聪明了。我也相信，一艘 General Systems Vehicle 大概会觉得他那样特别可爱。
我把这称作「文化鸿沟」，是因为我在 12 岁时就接触到了木星脑这个概念。
当然，以上这一切都属于从虚构证据做概括这一逻辑谬误。
但不管这是不是逻辑谬误，它至少说明了：为什么我怀疑阅读科幻小说，确实会对未来主义思维有所帮助。有时候，相较于借由虚构作品去接触你自身世界之外的世界，另一种替代品就是一种彻底困死在某个时代里的心态：一个人类存在、一直存在、并且永远都会存在的世界。
宇宙已经有 137 亿年了，各位！ Homo sapiens sapiens 出现不过才大约 10 万年而已！
不过话又说回来，我也见过一些从不读科幻小说的人，却似乎照样能够想象自己世界之外的东西；而也有些科幻迷就是没抓住那个点。我真希望自己知道那个「点」到底是什么，这样我就能把它装进瓶子里了。
在上一篇随笔里，我本来想谈的是高效利用证据，也就是说：Einstein 作为一个人类固然很可爱，但若从绝对意义上看，他的效率大概也就和美国国防部差不多。
所以我就不得不去谈论一个包含成千上万个 Einstein、并持续思考数十年的文明。因为如果我只是描绘一个被关在盒子里、盯着网络摄像头看的贝叶斯超级智能，人们就会想：「可是……它怎么知道该如何解释一张二维图片？」 他们不会把自己代入那台区区机器的处境，哪怕它被叫作「贝叶斯超级智能」；他们甚至不会把连自己都拥有的创造力，应用到「你究竟能从一张比特网格里提取出什么」这个问题上。
那样一来，它就只会是盒子里的一个幽灵，碰巧被叫作「贝叶斯超级智能」而已。这个幽灵并没有被告知该如何解释网络摄像头的输入；所以在他们的心理模型里，这个幽灵就不会知道。
至于假定一个贝叶斯超级智能能否「做到这一切」是否现实——也就是我第一次坐下来处理这个问题时，一边把故事写出来、一边想到的那些东西——
嗯，让我这么说吧：还记得 Jeffreyssai 曾指出，如果获得一个重要洞见的体验不会超过 5 分钟，那么理论上你每个月就有时间获得 5,760 个洞见吗？当然，这是在假设你每天睡 8 小时，并且睡觉时不会产生任何重要洞见的前提下。
人类当然没法把自己用得这么高效。但人类并不是为了科学研究这项任务而适应出来的。人类是为了在稀树草原上追鹿、朝鹿掷矛、把鹿烤熟，然后——这大概才是最耗脑子的部分——巧妙地论证自己理应分到更大一份肉而适应出来的。
Albert Einstein 竟然能把这样一种大脑重新拿来做物理，这件事真是了不起。这值得鼓掌。它甚至不只值得鼓掌，它值得被写进吉尼斯世界纪录。就像成功造出一辆史上速度最快、却完全用 Jello 果冻做成的汽车。
那个盲目白痴之神（进化）到底真的把人脑设计得有多糟？
这件事，只有在你大量研习认知科学，直到那全部的恐怖开始在你眼前显现时，你才能真正明白。
我们在这里讨论过的所有偏差，至少都该算是一点提示。
还有这样一个事实也是提示：人脑必须动用全部力量与专注力，配合数万亿个突触同时放电，才能在没有纸笔的情况下算出两个三位数相乘的结果。
Einstein 的大脑对神经元放电的利用，并不比他对感官数据的利用更高效。
当然，我这么说也有某些别的用意。但也请理解：很多年前，当我立志成为一名理性主义者时，激励我的那个不可企及的智能理想，从来都不是 Einstein。
Carl Schurz 说：
理想如星辰。你无法伸手触及它们。但就像在水之荒漠上航行的海员一样，你选择它们作为自己的航标，并在追随它们时抵达命运的彼岸。
所以，现在你已经瞥见了我童年时代一个伟大榜样的身影——我关于 AI 的梦想。当然，那只是梦想，现实版本并不存在。很久很久以前，我曾向那个梦想伸出手去。
而它在某种程度上帮助了我，也在某种程度上伤害了我。
因为有些理想更像梦：它们来自我们内心，而不是来自外部。Arisia 的 Mentor 出自 E. E. “Doc” Smith 的想象，而不是任何真实存在的东西。如果你去想象一个贝叶斯超级智能会说什么，那么说话的其实仍然只是你自己的心。它不像星辰那样，是你可以从外部追随的东西。你必须去猜自己的理想位于何处；而如果你猜错了，你就会走上歧途。
但不要把你的理想只限定在星辰、只限定在那些真实存在过的人类身上，尤其是那些比你早出生 50 多年、如今已经死去的人。每一代后来者都有机会做得更好。让你的理想只由人类构成，尤其只由死去的人类构成，就是在把自己限制在已经完成之事上。你会问自己：「我竟敢去做这件 Einstein 都没做到的事吗？这难道不是大不敬吗？」 可如果 Einstein 当年总坐在那里问自己：「我被允许做得比 Newton 更好吗？」 那他就不可能走到后来那一步。这就是追随星辰的问题：在最好的情况下，它也只能把你带到那颗星那里。
你的时代对你的支撑，比你意识到的要多：它体现在无意识的假设中，体现在那些被微妙改进过的心智技术中。Einstein 人是不错，但他对某种非人格化上帝说过一大堆胡话；这足以说明，他在比自己专业领域更高的抽象层级上对谨慎思考这门技艺的理解，其实并不怎么样。如果你至少有一个可以拿来和 Einstein 比较的、想象中的银河级超心智，以至于他不再是你智能刻度上最右边的那个点，那么这样想也许就不会显得那么像亵渎了。
如果你只尝试去做那些看起来在人类能力范围内的事，那么你对自己的要求就会太低。当你设想自己要伸手去够某个更高、也更不方便的目标时，各种关于它为什么「不可能」的便利理由，就会立刻争先恐后地跳进脑海里。
最重要的榜样是梦想：它们来自我们内心。若你所梦想的东西还低于你心中所理解的完美，那你就是在调动自己那个会做梦的部分时，没有用上它的全部力量。