网友 poke 质疑道:
能够提出切中要害的假设是一项极其重要的技能,也是一位科学家花费大量时间去培养的核心技能。它或许没有被写在关于科学的传统描述里,但那绝不意味着它不存在于现实世界中产出真实科学成果的科学实际社会制度中;有缺陷的是你的描述,而不是科学本身。
我知道我一直称年轻时的自己「很蠢」,但这只是一种修辞手法;更准确的说法应该是「极其拙劣地挥霍了高智商」。18 岁的 Eliezer 并没有犯那种显而易见的低级错误的习惯——只不过,他眼中的「显而易见」和现在的我眼中的「显而易见」截然不同罢了。
没错,我确实没有在大学里经历过正规的科学学徒期。但是,当我回首往事,看清了 18 岁的 Eliezer 究竟错在哪里时,我看到海量的现代科学家都在犯着一模一样的错误。我没有发现任何迹象表明,他们曾在教育中得到过比我更好的警告。
罗杰·彭罗斯爵士(Sir Roger Penrose)——一位世界顶级的物理学家——至今依然深信意识是由量子引力引起的。我敢说绝对从来没有人警告过他,要警惕用神秘的答案去解答神秘的问题[1]——别人只是告诉他,他的假设必须具备可证伪性,并且必须能产生经验上的后果。就像 18 岁的 Eliezer 当年被教导的那样。
「意识是由量子引力引起的」确实有可检验的推论:这意味着你应该能够通过观察神经元,发现其中维持着相干的量子叠加态,并且这种叠加态的坍缩确实参与了信息处理;同时也意味着,你永远无法使用一台普通计算机进行微观解剖学层面的模拟,来完美复现一个神经元的输入输出行为……
……但是,即使你大声宣布了「意识是由量子引力引起的」,你对于自己的大脑是如何思考出「我思故我在!」的,或者对于「红色不可言喻的红性」到底是怎么产生的,也依然没有任何全新的预测和理解,哪怕你心里觉得你已经知道了它的原因。我现在才恍然大悟,这是一个极其危险的信号;但在当年,我绝对没有被警告过要警惕这个信号,我也严重怀疑彭罗斯的博导是否曾经向他发出过这种警告。就此而言,我甚至怀疑当年尼尔斯·玻尔(Niels Bohr)在炮制哥本哈根诠释时,是否有人警告过他这一点。
就我所见,18 岁的 Eliezer、罗杰·彭罗斯爵士以及尼尔斯·玻尔之所以没有得到警告,其根本原因在于:科学界压根就不存在这种标准警告。
直到我开始用贝叶斯分析去剖析「技术性的、非技术性的和半技术性的」科学解释之间究竟有何区别时,我才真正把「神秘答案解答神秘问题」这个概念,用那么多字眼给提炼总结出来。现在,那场分析的最终输出结果,可以用四个非技术性的危险信号来概括:
- 首先,这个解释起到的作用是一个掐断好奇心的句号(curiosity-stopper)[2],而不是一个控制未来预期的指南针(anticipation-controller)[3]。
- 其次,这个假设里面没有运转的机械零件——它的核心秘方并不是某种极其具体的复杂机制,而是一团混沌模糊的物质或力量。
- 第三,抛出这个解释的人对自己的无知敝帚自珍;他们无比骄傲地谈论着这种现象是如何无视了常规科学的法则,或者它是如何不同于那些凡俗现象的。
- 第四,即使给出了这个所谓的答案,该现象依然是一个谜团,并且依然保留着它一开始那种令人绝望的、神圣不可侵犯的不可解释性。
原则上讲,只要生命活力论(vitalism)一破产,人们立马就可以把上面这些话总结出来。就像阿基米德在当年本来完全有可能发明出基础概率论,或者古希腊人本来就有条件推演出自然选择理论一样。但事实上,从来没有任何人用这些明确的字眼,警告过我要小心这四个危险信号——最接近的警告也就是那句老生常谈的「假设应该具有可检验的后果」。直到我试图用概率分布的视角来重新审视这一切时,我才明确地在概念上提取出了这些危险信号——为此,某种程度的「杀鸡用牛刀」是必不可少的。
我根本找不到任何理由去相信,科学界的学徒教育里会传承这些警告——至少绝对没有传授给绝大多数科学家。说到底,这是用来应对困惑与绝望,也就是应对科学混沌状态的指南。试问一个普通的科学家或一位普通的导师,这辈子能有几次机会用得上这种高级技巧?
我们刚才还在讨论物理学界那个「唯一全局世界」的滑铁卢惨案[4]。很显然,根本没人给他们讲过奥卡姆剃刀在数学上的严谨定义,无论是在私下的师徒耳语中,还是在其他任何场合。
科学界有一种已知现象:一位伟大的科学家往往能教出好几位伟大的学生。这很可能是因为导师在潜移默化中传递了某些他们自己也无法用语言描述的直觉技能。但我认为,这绝对算不上是标准科学训练的一部分。如果连那些伟大的导师自己都没法把他们的指导经验形诸文字并公开发表,那只能说明人们对这些认知技能的理解依然极其肤浅。
在缺乏明确证据的情况下进行推理,还要保证自己不会在一瞬间错得离谱,这真的是一件极其、极其困难的事情。当你在学校里念书时,你偶尔漏听了一个知识点,老师接下来还会教你五十个碰巧也是正确的知识点来帮你兜底。但在你缺乏压倒性实验证据指引的无人区里,试图靠纯粹的逻辑去推演出新知识时,你只要走错了一小步,五十步之后你就直接迷失在九霄云外了。
那些只要一离开自己的专业领域,就立刻关闭大脑、舒服地泡在各种胡言乱语里放松自己的科学家们,我敢肯定,他们绝对没有意识到心智就是一台物理引擎[5],也没有意识到每一个值得信赖的信念背后都必须有一条严密的因果链条。我甚至怀疑,从来没有人告诉过他们:在给定的证据状态下,必然存在一个绝对精确的理性概率估计,这里面绝不容许任何个人喜好的心血来潮[6];即使你算不出那个精确的答案,即使没有任何科学权威站出来命令你该相信什么,这条铁律也依然生效。
那些被媒体请去对未来高谈阔论、描绘出一幅幅细节惊人的「2050 年生活蓝图」的科学家们,我深表怀疑他们是否听说过合取谬误(conjunction fallacy)[7]。他们是否懂得,代表性启发式(representativeness heuristic)会让细节越丰富的预测故事听起来越可信,尽管每一个额外增加的细节都在无情地拉低整个故事成真的概率。在缺乏明确证据的迷雾中进行精准思考时,有一个原则是绝对致命且不可或缺的:每一个新增加的细节都必须有其独立的证据支撑——你绝对不能在现实中去编造那些听起来很像你在科学或历史课上学到过的宏大叙事。但是,这种认知偏差的概念怎么可能挤得进标准的科学学徒教育里?这种认知偏差几十年前才被心理学家发现,而且直到最近几年才开始在学术圈外普及。
更别提学术界里还充斥着围绕「涌现(emergence)」[8]或「复杂性(complexity)」[9]等概念形成的情感死亡螺旋[10]了;这些词的定义是如此的含糊不清,以至于你可以往里面塞进无数的溢美之词。甚至有整整几个学术子领域,就是完全建立在 18 岁的 Eliezer 曾经犯过的那类错误之上的!(不过我倒是从来没被「涌现」这个词忽悠过。)
我有时候会说,科学作为一种社会制度,其终极目标就是去堆砌出一座极其庞大的证据高山,大到连最固执的科学家都无法无视它的地步:而且这正是科学家异于常人的标志;因为如果是个非科学家(神棍),证据再多他也会照样无视。
如果真的能积累出足够庞大的证据,大到让你彻底绝望,让你停止寻找任何借口,然后乖乖认输——彻底抛弃旧理论,并且再也不提它——那么,这正是让科学的棘轮随着时间的推移不断向前转动、并最终建立起现代技术文明所需要的全部动力。这就和宗教形成了鲜明的对比。
卡尔·萨根、马丁·加德纳等人的著作,以及传统理性主义的其他流派,其目的就是为了促成这种转变:将一个人从非科学家转变为潜在的科学家,并保护他们免受那些早就被实验证伪的疯狂理论的侵害。
除此之外,一位职业科学家还能接受到什么进阶训练?上几堂关于如何计算统计显著性(p-value)的频率派统计学课程。接受一套标准研究技术的训练,确保他们能在某个已被牢牢确立的学术范式内,像流水线一样疯狂产出论文。
如果「科学」对普通科学家的要求超出了上述标准,那我认为「科学」这项庞大的社会工程根本就不可能运转下去。现在光是应付那些连这种最底线基本素质都没有就混进队伍里的人,就已经够让我们焦头烂额的了。
尼克·塔尔顿(Nick Tarleton)非常精辟地总结了由此产生的问题——老实说,总结得比我好多了:如果你提出了一个看起来极其离奇、但尚未被现有证据彻底证伪的假设,并试图用实验去检验它,科学绝不会指责你是个坏人。科学从不信任由某些长者权威来钦定哪些假设「不值得测试」。但是,这仅仅是一个为了鼓励创新而刻意放宽的社会标准;如果你试图把这套社会标准原封不动地搬进你个人的认知理性标准里,它就会纵容你去相信海量的垃圾信息。如果再次套用那个「基于实用主义不信任的自由意志主义」[11]的类比,这就等同于把「香烟不该被法律禁止」和「赶紧去抽根万宝路吧」混为一谈。
你还记得在你的学术生涯里,有人曾经用极其明确的字眼,警告过你不要犯这种混淆错误吗?既然没有,那人们为什么不犯这种错误呢?在这个世界上,究竟有多少人会自发地多走一步,用远超社会底线的严苛标准来要求自己的大脑?有一些,但绝对不多。
无数的科学家一走出实验室的大门[12],就会去相信各种极其荒谬的事情;只要他们能成功说服自己「这件事还没有被科学确凿地证伪」,或者只要他们巧妙地避开不去深究。难道大学里有专门为研究生开设的标准必修课,告诉大家看清这种荒诞行径,并在遇到这种事时严厉质问:「他们当年是没来上课吗?」据我所知,压根就没有。
也许,如果你极其幸运,拜入了一位学术泰斗的门下,他们可能会在私下里传授给你一些罕见的心法秘籍,比如:「一定要弄清楚你这个领域里真正重要的问题是什么,然后死磕其中一个;千万别在那些容易发论文但无关紧要的琐碎问题上虚度光阴。」或者「你必须比期刊编辑的要求还要严苛百倍;你必须绞尽脑汁寻找新的方法,来防止你对结果的主观预期污染实验,哪怕这种防范措施根本不在标准的实验流程里。」
但我真的不认为,在科学界存在着一条秘传的、标准的、关于「如何在稀缺证据下进行高精度理性推导」的庞大传统。放眼望去,外头有一半的科学家至今依然相信他们信仰着[13]上帝!那些硬核的技能,根本就不在标准里!
总目录:
《理性:从人工智能到僵尸》导读与目录卷:
第四卷:区区现实章节:
科学与理性上一篇:
科学还不够严苛下一篇:
没有任何防线是安全的,科学也不例外Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.1-pro,校对 Jarrett Ye
原文:Do Scientists Already Know This Stuff?
参考
1. 神秘问题的神秘答案 https://hpmor.xyz/ai2zb_35/2. 语义停止信号 https://hpmor.xyz/ai2zb_34/
3. 让信念(用预期)支付租金 https://hpmor.xyz/ai2zb_11/
4. 多个世界,一个最佳猜测 ./2100227945059174170.html
5. 热力学第二定律与认知引擎 ./2069478246668939394.html
6. 科学还不够严苛 ./2102468203410735218.html
7. 繁琐的细节 https://hpmor.xyz/ai2zb_6/
8. 毫无意义的"涌现" https://hpmor.xyz/ai2zb_36/
9. 不要说"复杂性" https://hpmor.xyz/ai2zb_37/
10. 情感死亡螺旋 ./1961358134401564985.html
11. 科学不相信你的理性 ./2101621172253234659.html
12. 在实验室之外 ./2068631832942338672.html
13. 对信念的信念 https://hpmor.xyz/ai2zb_13/