曾几何时,年轻的 Eliezer 脑子里装过一个极其愚蠢的理论。假设 18 岁的 Eliezer 提出的那个蠢理论是:意识是由隐藏在量子引力中的闭合类时曲线(时空旅行路径)引发的。这并非故事的全貌,甚至连边都没摸到,但作为我们讨论的切入点足够了。
直到后来某个时刻,我回头审视,才猛然意识到:
- 在误入歧途的整个过程中,我竟然一直小心翼翼地、完美遵循着所有被教导为「传统理性(科学实证主义)」的法则。比如,我非常谨慎地只去相信那些能够做出「新颖实验预测」的愚蠢理论——比如预测「最终会发现神经元里的微管能够支持连贯的量子态」之类的。
- 站在科学界的立场上,就算我白白浪费十年青春去试图验证我这个愚蠢的理论,最后只落得个失败的实验结果,科学界也绝对会觉得这好得很;只要我事后态度端正地说一句:「哦,好吧,看来我的理论是错的。」
从科学这套制度的视角来看,这恰恰就是事情理应运转的方式——皆大欢喜。你勇敢地承认了你的错误!好样的!这不正是科学精神的最高体现吗?
可是……对于那件事(事先判断对错),科学却无话可说。科学怎么可能在实验验证之前,就告诉你哪个理论是对的呢?科学根本不在乎你的理论是从哪个石头缝里蹦出来的——它只会冷冰冰地说:「去,拿实验测一下。」
这是科学作为一种制度的伟大力量,同时也是它最致命的软肋。
Eliezer,你为什么总是这么热衷于讨论那些目前无法被实验检验的问题?
因为那些能被轻易、立刻测试的问题,科学是不太可能搞错的。
我的意思是,这理所当然:当手头已经有确凿无误的实验证据时,跟着证据走就行了。你到底有什么理由不这么做呢?
但有时候,一个问题会在你的未来引发极其巨大、极其明确的实验后果——但你此时此刻却无法轻易地通过实验去检验它——然而,在逻辑上确实存在着一个强有力的理性论证。
宏观层面的量子叠加态在理论上是完全可以测试的:你只需要纳米级别的操作精度、接近绝对零度的极低温度,再加上一片完美纯净的星际空间就够了。哦,当然,你现在做不到,因为这对于今天的技术来说太昂贵或者完全不可能之类的——但在理论上,绝对可行!哎呀,说不定在遥远的未来,他们会在某个宇宙大空洞的清静角落里,把整个文明上传到一台处于宏观叠加态的量子计算机上运行呢。(顺便提一句,问问量子非实在论者,在这种计算机里的那些观察者到底算不算真实存在,非常有助揭露量子非实在论在定义上的漏洞百出。)
我猜,宏观量子叠加看起来似乎跟你的现实生活没什么直接关系;但它确立了一个普遍的模式:并不是所有会在未来产生重大后果的事情,在现在去测试它们的成本都很低。
进化心理学是另一个必须由理性来接管科学工作的绝佳案例。虽然进化心理学的理论构成了一个相互关联的严密整体,但其中只有一部分理论能够被轻易地用实验来检验。但你依然不能抛弃这个理论的其他部分,因为它们共同织就了一张相辅相成的网络,正是这张网络帮助你推导出了那些真正能够被测试的假设——于是,这些起辅助作用的假设在「贝叶斯概率」的意义上得到了有力的支持,尽管它们并没有得到直接的实验支持。如果死板地套用科学的标准,面对这样一个在整体上极具实验生产力的理论网络,科学法庭会对其中的某些独立环节下达「未证实(not proven)」的判决。对于这种情况,我们需要一种全新的判决尺度,比如「获得间接支持」。
或者,人体冷冻技术(cryonics)呢?
人体冷冻技术是一个关于极端重大问题(每天有 15 万人死去)的原型案例,它在可预见的未来会产生极其巨大的后果,但它却无法提供我们在此时此刻就能抓在手里的、确凿无误的实验证据。
所以,你难道会理直气壮地说:「我不相信人体冷冻技术,因为它还没有被实验证明,而且你不应该去相信任何没有被实验证明的东西」吗?
嗯,从贝叶斯概率论的视角来看,这种说法大错特错。「缺乏证据(证明它有效),就是它无效的证据」[1],这句话只有在「如果它有效,我们有极高概率能看到相关证据」的前提下,才成立。如果有人在街上大肆吹嘘他的蛇油能治愈癌症,你完全可以合理地预期,如果蛇油真的能治愈癌症,必定会有科学家去做对照实验来证实它——至少,总该有医生发表过关于这种奇迹康复的病例报告吧——所以,在这类证据完全缺席的情况下,这就是蛇油无效的强烈证据。但是,「化石记录中存在空白」绝对不能算作反对进化论的强烈证据;因为形成化石的自然条件极其苛刻,即使那个过渡物种在历史上确确实实存在过,你也不能抱有极高概率的期望,指望大自然会乖乖地把它变成化石并恰好让人类挖掘出来。
同样地,对于复活一具被冷冻的哺乳动物遗体,你不该指望现代技术能做到这一点——哪怕未来的纳米技术事实上真的能完美实现这种复活。在我看来,这就是贝叶斯眼中的客观现实。
哦,至于支持人体冷冻技术的实际论点——我现在没打算在这里展开。但如果你一路跟读了物理学与反僵尸系列文章,现在你应该觉得下面这个推论可信多了:无论是什么物理结构保存了你大脑神经突触的连接模式,它所保存下来的「你」,跟每天晚上入睡到第二天早晨醒来时保存下来的「你」,在信息量上是一样多的。
现在,平心而论,如果有人说「我不相信人体冷冻技术,因为它没有被实验证明」,他其实是在错误地滥用科学的规则;这并不是一个科学本身给出了错误答案的例子。在缺乏决定性实验测试的情况下,科学法庭在这里下达的真实判决仅仅是「未证实(Not proven)」。任何把「未证实」脑补成「彻底否决」的人,都是在科学的边界之外多迈出了极其轻率的一步,而不是在科学内部犯了错。
在计算机科学家约翰·麦卡锡(John McCarthy)的维基语录页面上,收录了他这样一句话:「你的这番言论,等同于在说,如果人工智能是可能的,那它就应该是轻而易举的。凭什么?」[1] 维基语录并没有说明麦卡锡当时是在反驳什么,但我大概能猜得到。
人们之所以会犯这种「把没有证据当成无效」的普遍错误,可能是因为现实中确实有很多时候,缺乏科学证明本身就是极其强烈的反面证据——因为既然那个实验很容易做,那迟迟没有实验证据本身就极其可疑。(尽管我现在觉得这似乎也没我想象的那么可疑了——因为塞思·罗伯茨(Seth Roberts)关于饮食控制食欲的理论明明得到了大量受人尊敬的来源所提供的各种奇闻轶事般的证据支持,但到底为什么他妈的就是没有正经科学家去立项测试它呢?[2])
另一个可能导致混淆的因素是,如果让你在 1,000 名受试者身上测试药物 X,结果发现对照组有 56% 的人康复,实验组有 57% 的人康复;有些人会把这个结果称为「未证实」。但我会把这个实验判决称为:「药物 X 效果极差,甚至可能根本没用」。仅仅因为这个实验判决在理论上遇到新证据时是可以被撤回的,绝不意味着它在当下是模棱两可的。
无论如何,现在的情况是,有很多人大手一挥,以「这不科学」为由将人体冷冻技术拒之门外;就搞得好像这是某种你随便就能找 1,000 个病人喂下去然后当场看效果的普通感冒药一样。他们会说:「等冷冻机构真的把人复活了,你再来找我吧」;正如 Mike Li 所敏锐指出的,这简直就像是在说:「我拒绝上这辆救护车;等它真的开到医院了,你再叫我上去。」 也许是马丁·加德纳(Martin Gardner,著名科普作家)曾警告过他们,在没有实验证据的情况下绝不要去相信任何奇怪的东西。所以,他们就这么死死地等着科学给出那份确凿无误的终审判决;与此同时,他们的家人、朋友,以及每天死去的 15 万人,正在此时此刻不断走向死亡,而这些人原本可能是可以被拯救的——
——这是一个只有靠理性才能做出决断的、精打细算的博弈下注(calculated bet)。
科学这套系统运转的动力,是去堆砌出一座庞大到连最容易犯错的人类科学家都无法误读的证据高山。但是,即便是这套机制有时也会失灵,比如当人们搞混了到底是哪个理论预测了哪个结果时;又比如,当人们在他们理论的早期版本里,硬塞进去一些极难通过实验去检验的核心组件时。而且有时候,你就是无法获得任何清晰的实验证据。
无论面临哪种情况,你都必须挺身而出,去做那件科学机制根本不信任任何人能做好的事情[2]——运用你的理性去独立思考,并在你被铁证如山的实验结果狠狠砸在头上之前,提前推算出答案。
(哦,对了,有时候一种证伪你理论的实验结果长这样:「你所在的整个物种刚刚被彻底抹杀了!你现在在科学上被要求正式放弃你的理论。如果你能公开认错,好样的!记住,放弃自己深信不疑的观念需要极其强大的心智。欢迎下次随时再来尝试另一个假设!」)
[1] No longer on Wikiquotes, but included in McCarthy’s personal quotes page.
[2] Seth Roberts, “What Makes Food Fattening?: A Pavlovian Theory of Weight Control” (Unpublished manuscript, 2005), http://media.sethroberts.net/about/whatmakesfoodfattening.pdf.
总目录:
《理性:从人工智能到僵尸》导读与目录卷:
第四卷:区区现实章节:
科学与理性上一篇:
科学不相信你的理性下一篇:
科学还不够严苛Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.1-pro,校对 Jarrett Ye
原文:When Science Can’t Help
参考
1. 没有证据表明 = 证据表明没有 https://hpmor.xyz/ai2zb_27/2. 科学不相信你的理性 ./2101621172253234659.html