曾几何时,年轻的 Eliezer 脑子里装过一个极其愚蠢的理论。18 岁的 Eliezer 小心翼翼地遵循着他所学到的「传统理性」的各种教条;他确保自己那个愚蠢的理论能够产生可供实验验证的推论。18 岁的 Eliezer 按照他所学到的、作为一名科学家的美德,郑重其事地宣告:他希望能亲自去测试这个愚蠢的理论。
在 18 岁的 Eliezer 所接受的关于科学精神的教育中,要想成为一名具备科学美德的人,做到这些就已经足够了。
但这距离把事情做对所需付出的努力量级,连边都沾不上。
科学作为一种传统的理想,总是太大方地给参与者分发「小红花」。负面的实验结果同样也是知识,所以只要你上场玩了这个游戏,人人都有奖。只要你能想出某种实验来检验你的理论,并且你真的去做了这个实验,事后你也大方地接受了实验结果,那你就是个遵守游戏规则的玩家;你就是个好科学家。
你未必能把事情做对,但你绝对是个遵纪守法的科学好公民。
(在这里我必须插一句,我讨论的是「科学」这种作为理想的抽象机制,而不是现实社会中科学界实际运作的八卦,原因有二。首先,我当年误入歧途,完全是因为我试图去遵循科学的理想教条——并不是哪个跟我有私仇的期刊编辑故意毙了我的论文,我也不是在模仿学术圈的种种劣习。其次,如果我指出了被传统宣扬的科学理想本身存在缺陷,现实世界里的科学家们也大可不必非得跟着一起走弯路啊!)
科学在最初诞生时,就是一场对宏大哲学体系和脱离实际的「扶手椅空想」的叛逆。所以,科学并没有定下任何规矩,来限制你被允许或者不被允许去测试什么类型的假设;在这个环节,每个科学家享有绝对的自由。因为试图在先验层面上规定「哪些假设值得测试」,本身就需要依赖某种宏大的哲学体系,并在没有证据的情况下进行预先推理。作为一种社会理想,科学绝不会因为你提出了异端邪说的假设,就指责你是个坏人;只要你诚实地做实验,并坦然接受结果,这就是科学家的美德。
只要绝大多数科学家能够咽下那些明确无误、毫不含糊的实验证据,科学就能向前迈进。这个过程可能会非常缓慢——可能会比它本该耗费的时间长得多——你可能得耐着性子等老一代权威死绝才行——但无论如何,知识的棘轮终究会往前再咔哒一声推进一格。年复一年,十年复十年,科学的车轮终将向前滚滚转动。这已经足够支撑起整个人类文明了。
所以,这就是科学对你的全部要求——当你被现实抡起大锤狠狠砸在脑袋上时,能够老老实实地接受现实。这要求不高,但足以维系一种科学文化的运转。
把这种宽容,与我们在概率论中所追求的那种绝对精确、定量的理性判断做个对比吧。如果来进行常规乳腺筛查的女性中有 1% 患有乳腺癌,而患有乳腺癌的女性中有 80% 的钼靶检查呈阳性,没有乳腺癌的女性中有 10% 呈假阳性;那么请问:一位来进行常规筛查且钼靶检查呈阳性的女性,她真正患有乳腺癌的概率是多少?答案是 7.5%。你绝对不能说:「我觉得她没有乳腺癌,因为这个实验(检查)还不够明确。」你也绝对不能说:
「我相信她得了乳腺癌,因为把情况想得悲观点总是明智的,而且这毕竟是目前唯一一份能说明问题的实验报告。」在给定的证据下,7.5% 就是绝对理性的估计值,而不是 7.4% 或 7.6%。概率论的法则,那是不可商量的铁律。
在《理性的十二美德》一文中,关于第三项美德「轻盈(lightness)」,是这样写的:
若你把证据视作一种束缚,并试图从中挣脱,你便是将自己出卖给了由反复无常编织的枷锁。你绝不可能闭着眼睛坐在卧室里,全凭心血来潮在纸上乱画几笔,就能画出一张真实的城市地图。你必须双脚丈量这座城市,在纸上画下与你亲眼所见严丝合缝的线条。如果你看这座城市看得不够真切,于是便以为自己可以随心所欲地把线条往右挪一点,或者往左挪一点,这两种做法犯下的是完全相同的错误。
在科学的体系里,当面临「决定去测试哪个假设」时,科学的道德观赋予了你极大的个人自由去选择你的信念;只要这个信念还没有被现有的实验证据彻底枪毙,并且只要你准备付诸行动去测试它,你爱信什么信什么。科学绝不会试图在实验进行之前,就给出一个「最佳假设」的官方判决。这完全留给了科学家个人的良心去定夺。
在毫不含糊的实验证据面前,科学命令你低下固执的头颅,乖乖接受现实。而在证据缺席的地方,科学任由你自由发挥。科学赋予了你一种特权:在实验证据划定的边界之内,你可以凭着自己的心血来潮到处乱逛。
但这套逻辑,是极难与贝叶斯主义的理念相调和的:因为在贝叶斯主义看来,无论是在实验之前还是实验之后,都必然存在着一个唯一且精确正确的概率估计值,这其中绝对没有任何可以讨价还价的弹性空间,更容不下半点主观的心血来潮。贝叶斯主义与支撑科学存在的那条古老而传统的理由——即对宏大哲学体系的不信任,以及认定如果缺乏明确无误的实验证据,人类根本没有足够的理性把事情做对的悲观预设——显得格格不入。如果我们全都是完美无瑕的贝叶斯智能体,我们根本就不需要一套叫做「科学」的社会纠错程序。
尽管如此,就在我幡然醒悟自己犯下大错的同一时期,我也在如饥似渴地钻研卡尼曼(Kahneman)、特沃斯基(Tversky)和杰恩斯(Jaynes)的思想。我正在领悟一条全新的「大道(Way)」,一条比科学还要严苛得多的「大道」。这条大道能以一种科学永远无法企及的深度,无情地批判我的愚蠢。这条大道能提前对我说出科学永远不可能在事前说出的话:「你选错了要测试的假设,你个蠢货。」
但贝叶斯之「道」,在使用难度上也远远超过了科学。它对你捕捉极其微弱的杂音(逻辑瑕疵)的能力提出了极其严苛的挑战;相比之下,科学只要求你能感觉到有一个巨大的铁砧狠狠砸在了你的头上。
在科学界,你大可以犯下一两个愚蠢的错误,迟早会有另一个实验跑出来纠正你;最坏的结果,也不过是你白白浪费了几十年的青春罢了。
但如果你试图去应用贝叶斯推断——哪怕仅仅是在定性的层面上应用——如果你试图去做那件「科学因为不信任你,所以不让你做」的事,即在缺乏压倒性实验证据的情况下进行理性推理——这就像做数学题一样,在一百个步骤里哪怕只犯下一个微小的错误,也能把你带进万劫不复的深渊。它要求极致的轻盈、平稳、精确,以及绝对的完美主义。
科学不信任科学家们能靠自己把这事儿干好,这是有极其充分的理由的;这也是为什么即使有人声称他们已经根据蛛丝马迹和严密逻辑推算出了正确答案,科学依然会冷酷地要求出示进一步的实验证据。
但如果你真的不愿意把你人生中最宝贵的十年,白白浪费在试图证明一个错误的理论上,你就必须去攻克这个难度呈几何级数跃升的挑战:学会在那些没有扯着嗓子在你耳边嘶吼的微弱证据中,听出真理的低语。
即使你无法在《化学与物理手册》里直接查到一个问题的先验概率(priors)——即使没有任何绝对权威能站出来告诉你先验概率到底是多少——这也绝不意味着你可以获得一张免死金牌,可以任由你的个人喜好去随心所欲地设定先验概率。这只意味着:你面临着一个极度困难的全新估算问题,而你必须倾尽你全部的认知能力去解答它。
如果人类的心智,作为一台认知引擎[1],真的能通过根据个人喜好随意篡改先验概率来生成正确的对现实的预测;那你完全可以做到不看就能知晓万物,甚至不需要接触就能改变现实。但心智不是魔法。理性的概率估计,绝不会给任何基于心血来潮的决定留下哪怕一丝一毫的空间,即使在你觉得你「根本不知道先验概率是多少」的时候,也是如此。
同理,如果计算贝叶斯答案极其困难,这绝不意味着贝叶斯法则在这里就不适用了;这仅仅意味着你不知道那个正确的贝叶斯答案到底是多少。贝叶斯概率论绝不仅仅是统计方法工具箱里的一把扳手;它是最高法则[2];它无情地支配着你使用的任何工具,无论你懂不懂它,无论你算不算得出它。
至于在无比庞大、高度概括的假设空间中去应用贝叶斯方法——比如面对这样的挑战:「这里有物理学史上所有实验产生的所有数据;现在,请告诉我,一个绝佳的『万物理论』应该长什么样?」——如果你在实践中真的知道该怎么解这道题,那你早就不是什么统计学家了,你绝对是一位通用人工智能(AGI)的核心程序员。但这并不意味着,在使用人类智能对宇宙进行建模时,人类是在没有任何证据的情况下凭空捏造出正确的猜测,从而打破了物理学或贝叶斯法则。
尼克·塔尔顿(Nick Tarleton)在评论区里写道:
真正的问题在于,人们在私人的、认知层面(epistemic)的标准上,去鼓励一种和社会的宽容标准一样极其松懈的态度。
这句评论一针见血,比我刚才那一通长篇大论,更精准地戳中了我试图指出的那个核心问题。
总目录:
《理性:从人工智能到僵尸》导读与目录卷:
第四卷:区区现实章节:
科学与理性上一篇:
当科学无能为力时下一篇:
科学家已经知道这些了吗?Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.1-pro,校对 Jarrett Ye
原文:Science Isn’t Strict Enough
参考
1. 热力学第二定律与认知引擎 ./2069478246668939394.html2. 概率之美 ./2067904248742932977.html