译者按
本文是《如何真正改变你的想法》一书的序言。而《如何真正改变你的想法》是 Eliezer Yudkowsky 所著的《理性：从人工智能到僵尸》丛书的第二卷。该丛书的第一卷是《地图与领土》，已经由《哈利波特与理性之道》翻译组汉化，这里是目录：《理性：从人工智能到僵尸》的重组顺序版。短期之内我没有重新翻译第一卷的打算，所以之后如果有引用前文的地方，我会附上 HPMOR 翻译组的链接。
之所以想要翻译这个系列文章，是因为我发现，在知乎这么一个知识分享社区，我们对理性的探讨却如此贫瘠。双重标准、屁股决定脑袋、抛开事实不谈……这样的回答我在知乎上已经品鉴得够多了。究其根本，我认为这是理性的缺失。缺乏理性，就像开车不系安全带，可能在很长一段时间里都很爽，但万一遇上了事故，就追悔莫及了。
希望这个系列能够让更多读者了解理性、变得理性，从而对世界形成更接近真实的信念，并做出更可能达成自己目标的决策。
补充：这个系列讨论的理性基于贝叶斯主义，不是启蒙运动里的理性主义（它更倾向于经验主义），也不是康德说的理性（它不追求绝对的确定性），也不是亚里士多德说的理性（它不支持绝对真理）。如果你对启蒙运动、康德和亚里士多德都不了解，请忽略这条补充。
我应该相信什么？
事实上，这个问题有一个正确答案。
不仅在你确信无疑时，即便在你满腹狐疑、无所适从时，这个问题也有一个正确答案。一个观点，无论它看起来像是「个人信念」还是经专家验证的「客观事实」，你对它的置信水平总有一个正确的值。
然而，我们却常常觉得，由于存在不确定性和分歧，信念就成了个人口味的问题。我们说「那只是我的看法」或「你有权持有自己的观点」，仿佛科学和数学的断言存在于一个截然不同、更高级的层面，而与那些「私人的」或「主观的」观点无关。但正如 Robin Hanson 所说：[1]
你无权固守自己主观臆断的观点，从来没有这种权利！你甚至无权说「我不知道」。你可以拥有自己的欲望，有时也能做出选择。如果你能选择自己的偏好，你可能有权这样做。但你的信念不应建立在一己之见上，而应建立在对世界的认知之上。你的信念应该代表你对事物本质所做出的最诚实判断，其他任何说法都是谎言。[...]
不可否认，在有些领域，专家们掌握着更有力的消除分歧的方法。而在另一些领域，由于人性的偏见和世界本身的复杂性，我们难以得出确凿的结论。[...]
但你务必谨记，无论是关于事物的本来面目（或应然状态）的讨论，还是任何信息情境，始终存在一个最接近事实真相的「最佳估计」。你唯一应做的，就是竭尽所能、以最真诚的态度去寻找那个最佳估计。除此之外，其他一切都是谎言。
假设你发现六个人中有一人暗恋你——也许你收到了一封神秘仰慕者的来信，而且可以断定那必定出自这六人之一——但你却不知道具体是谁。你的同学 Bob 名列这六位「嫌疑人」之中，不过你没有任何特别的证据能证明或推翻他就是那个暗恋你的人。在这种情况下，Bob 暗恋你的概率是 1:5。
因为总共有六种可能性，随机猜测平均来说每猜对一次就会猜错五次，这就是「几率为 1:5」的意思。你不能说「唉，我完全不知道谁在暗恋我，可能是 Bob，也可能不是，那我就当几率是对半开吧。」即便你宁可说「不知道」或「有可能」就此打住，正确答案仍是 1:5。[2]
假设你还发现，当有人暗恋你时，ta 对你眨眼的频率是平时的十倍。如果这时 Bob 冲你眨了眼，这无疑是一条新的线索。在这种情况下，如果你还对 Bob 是不是你的神秘仰慕者持怀疑态度，那就大错特错了。因为「一个对我眨眼的人十有八九暗恋我」的概率，明显大于「Bob 只有五分之一的概率暗恋我」。
但如果你说：「这证据简直是铁证如山，Bob 绝对就是那个暗恋我的人！从现在起我就认定 Bob 喜欢我。」那同样也是错误的。过度自信和自信不足一样不可取。
事实上，从数学的角度来看，这个问题只有一个前后逻辑一致的答案。为了根据证据 10:1 的似然比来更新我们原先 1:5 的先验概率，我们将两个比率的左右两项分别相乘，得到了 10:5 的后验概率，也就是说，有 2:1 的比率支持「Bob 暗恋你」这个假设。基于我们的假设和现有证据，认为 Bob 喜欢你的推测，每错一次就会有两次是对的。换句话说，他被你吸引的概率是 2/3。任何其他的置信水平都是前后矛盾的。
我们的文化尚未真正领悟概率论的精髓——无论是判断「我有多大把握确定 Bob 喜欢我」这样的问题，还是解答代数测验或地质学教科书中的问题，正确答案在逻辑上都受到同等的制约。我们根深蒂固的观念与这一新发现背道而驰，那就是：对「我应该坚信什么」这个问题，不管你在问「我的同学是否喜欢我」，还是「我是否拥有永恒的灵魂」，都有一个客观正确的答案。改变想法确实有一套恰当的方法，而且这种方法是精确的。
如何不真正改变你的想法
然而，要真正做到以这种近乎理想化的方式来修正我们的信念，谈何容易。
在《理性：从人工智能到僵尸》的第一卷中，我们探讨了「恰当」信念的价值。表达你对所热爱事物的支持本无可厚非——无论是你认同的群体，还是令你感到振奋的精神体验。但如果我们将支持性言论与事实信念相混淆，那些被误读的言论就可能成为保护整个意识形态，使其免受证据威胁的屏障。
即便是那些看似能够巧妙解释我们所观察现象的信念，也难逃此劫。我们很容易看到某些略带科学性（或权威性）的说法，便轻率地认定它已经「解释」了某些事情，即便这些说法并未真正影响我们内心对未来可能发生之事的预期概率。
最糟糕的是，平淡无奇的信念ーー那些原则上是可证伪的、确实会限制我们期望所见之物的信念——仍然根深蒂固地卡在我们脑海中，被一张由种种幻觉和偏见编织成的大网所强化。
1951 年，达特茅斯学院和普林斯顿大学之间上演了一场异常激烈的橄榄球比赛。赛后，心理学家 Hastorf 和 Cantril 分别询问两校学生，谁才是争端的起因。几乎所有人都认为普林斯顿是无辜的；但高达 86% 的普林斯顿学生坚称是达特茅斯挑的头，而在达特茅斯，持这种看法的学生仅占 36%（大多数达特茅斯学生觉得「双方都有责任」）。
这绝非口号或欢呼那么简单，而是他们发自内心的想法。抱持不同观点的两校学生，很可能会对日后比赛中球员的表现做出不一样的预测。然而，令人困惑的是，面对同一个再普通不过的客观事实，达特茅斯和普林斯顿学生的认知竟如此迥异。
我们能将其归咎于达、普两校学生所接触的信息源头存在差异吗？单就这一点而言，不同群体所依赖的新闻来源本身存在偏见，就已经是一个不容小觑的问题了。这种认知差异揭示了同一事件在不同群体中可能产生截然不同的解读。其根源在于，人们往往受到各自所处环境和接触信息的影响，从而形成带有偏见的主观判断。
然而，这个案例折射出更深层次的问题。当观看同一段比赛录像并被要求统计违规次数时，达特茅斯学生声称看到他们学校球队平均违规 4.3 次，且认定其中一半是「轻微」的；而普林斯顿学生则表示看到达特茅斯队平均违规 9.8 次，且认为其中三分之一是「轻微」的。
更不用说让立场对立的群体在国家政治或道德哲学等复杂议题上达成共识了；持有不同群体认同的学生，甚至对亲眼所见的客观事实都无法形成一致看法。[3]
当我们所珍视的事物受到威胁，不论是我们的世界观、群体认同、社会地位还是其他，我们的思想和观念就会自发地奔赴它们的辩护。[4] [5] 如今，一些心理学家甚至大胆推测，人类形成条理清晰进行论证的能力，根本目的就是为了在争论中赢得优势。[6]
20 世纪心理学的一个重要洞见，启发了从弗洛伊德的追随者到当代认知心理学家等各领域的研究者。这一洞见就是：人的行为常常受到潜意识中复杂过程的驱动，而我们对自身动机和理由的解释，往往掺杂了大量的偏见和虚构成分，远没有我们自认为的那般客观和理性。
我们常常没有意识到，我们始终在讲述某种「故事」。当我们似乎透过内省就能「直接洞察」自己时，这种洞察往往建立在站不住脚的潜在因果模型之上。[7] [8] 当我们试图为自己的信念辩护时，我们给出的理由可能漏洞百出，与最初形成信念的过程毫无关联。[9] 我们评判解释的标准不是它的预测力，而是编造故事来拼凑我们自以为知道的东西。我们该如何做得更好？在我们的思维如此容易自圆其说的情况下，我们怎样才能获得对世界的真实认识？当我们对思维过程本身的认知也值得怀疑时，我们如何才能客观评估自己的内心？如果我们消除偏见的努力本身也可能带有偏见，我们该如何才能真正减少偏见？
在人类认知充满隐患的现状下，最稳固的立足点在哪里？
理性的数学基础
20 世纪之交，数学家为算术提出了简单的公理系统（如集合论公理），这为判断算术结论的正确性提供了一个更加明确、严谨的标准。现在，如果有人或计算器得出「2 + 2 = 4」的结果，我们不仅可以直观地认为它是对的，还能解释它为何正确，并证明它的正确性与算术体系的其他部分有着系统而紧密的内在联系。
但数学和逻辑的力量远不止于分析简单的计算器，它们让我们能够模拟和研究复杂得多的物理系统的行为规律。通过运用概率论，我们能提炼出所有成功推理形式的共同特征，由此形式化地刻画理性信念遵循的一般性规律。借助决策论，我们甚至可以对理性行为的一般特性作出严格的数学描述。数学语言让我们以前所未有的精度来分析、把握理性的内涵与外延。
如果人类拥有充足的时间、强大的计算能力和良好的自控力，概率论定义了我们在面对不确定性时如何做出最理想的推理。给定背景知识（先验）和新获得的证据，概率论可以唯一确定我们应该采信的最佳新观点（后验）。与之类似，决策理论告诉我们根据自身的信念应该采取何种行动。无论我对 Bob 持有什么样一致的信念和偏好，决策理论都能给出如何行动才能使我的偏好得到满足。
然而，人类并非完美的推理者或决策者，正如我们不是完美的计算者一样。我们的大脑只不过是自然选择的匆忙拼凑之物。即使在最佳状态下，关于「应该如何思考」和「应该如何行动」这两个问题，我们也无法得出完全准确的答案。我们缺乏足够的时间和计算能力，而进化也缺乏工程专业知识和远见，无法修正人类固有的种种缺陷。
事实上，即便是现实世界中最高效、最精准的推理者，也仍须借助启发式方法和近似算法。就连计算复杂度最优的算法，也无法完全符合概率论的一致性要求。
不过，尽管我们明白自己无法变得十全十美，但毫无疑问，我们仍有进步的空间。我们知道有一个研究者称之为「贝叶斯理性」的理想标准可以作为参照，它能为我们改善思维和行为提供指引。虽然我们永远也成不了完美的贝叶斯主义者，但运用理性的数学原理，能够帮助我们理解为什么某个答案正确，并且准确查找自己的错误所在。
想象一下，如果只靠死记硬背来学习数学，老师告诉你「10 + 3 = 13」、「31 + 108 = 139」等等，你可能还是一头雾水。只有理解了这些符号背后的规律，死记硬背才能学以致用。同理，如果我们没有一个判断思维方法优劣的总体框架，就会觉得无从下手去提升自己的理性思维能力。因此，本书旨在帮助读者为自己构建这样一个思维框架。
理性的应用
在一篇探讨理性主义者与反经验主义理性主义者区别的博文中，Scott Alexander 指出：[10]
显然，证据如金钱，拥有得越多越好。但同样不言而喻，懂得如何明智地使用手头有限的证据，就像懂得如何明智地花钱一样重要。
当我们面临证据不足，或者个人偏见和执念扭曲了我们对证据的解读时，理性技术能帮助我们更有效地利用手头的证据。这个道理普遍适用于我们的个人生活（如 Bob 的故事）、政治派别（或者体育迷）之间的分歧，以及关于超人类主义等技术和哲学难题的讨论。超人类主义主张我们应该利用科技从根本上改造人类处境。我们要认识到，每一个领域都遵循相同的数学规律，很多时候也同样受到认知偏差的影响。《如何真正改变你的想法》通过借鉴大量不同领域的例子，生动展现了理性思维方法的广泛应用价值。
《如何真正改变你的想法》的第一个系列《过于方便的借口》，聚焦于那些从概率角度来看再明确不过的问题。尽管要得出贝叶斯最优解通常是不可行的，但即便在证据确凿、有充分时间深思熟虑的情况下，诸如确认偏差之类的错误思维也可能根深蒂固。
接下来，我们将进入一个更加扑朔迷离的领域——《政治与理性》系列。主流国家政治以愤怒且毫无建树的辩论形式为人所知，这一点从电视评论员的争论中可见一斑。乍看之下，这不免令人感到惊讶。我们为何对政治分歧如此耿耿于怀，即便国家政治机器的运作方式和影响力离我们如此遥远？更有甚者，当我们处理自认为至关重要的问题时，为何反而不会更加谨慎地以严谨的态度求证？
这场达特茅斯-普林斯顿的比赛给我们带来一个启示：我们的大部分推理过程实际上是在事后合理化——我们编造故事，让自己当前的观点显得更加连贯和有道理，但这并不一定能提高观点的准确性。《对抗合理化》系列探讨了这一问题，而《对抗双重思想》（关于自我欺骗）和《用新眼光看问题》（关于挑战我们识别与预期和假设不符的证据的能力）系列则对此进行了进一步阐述。
在追求理性的过程中，我们会遇到许多有趣而深刻的新想法。通常，这也意味着结识志同道合的朋友，加入能激励自我提升的群体。但《死亡螺旋》系列指出，团结在共同利益和闪亮理念下的群体，也可能受到某些危害的影响。要从理性主义社区中获得最大收益，我们必须克服这些危害。《如何真正改变你的想法》系列最后以《放手》系列作为总结。
我们天生的思维状态，并不是像贝叶斯主义者那样不断修正认知。让达特茅斯和普林斯顿的学生们觉察到自己真实的认知过程，绝非像给他们背诵概率论公理那么简单。正如 Luke Muehlhauser 在《能动性的力量》一文中所说：[11]
你不是一个推理能力被认知偏差「侵蚀」的贝叶斯小人。
你本身就是由认知偏差构成的。
确认偏差、现状偏差、对应偏差等，并非我们思维的附加物，而是其最本质的组成部分。
这并不意味着我们无法克服偏见。就像在消除所有算术错误后，我们也不是完美无缺的计算机一样。我们在数学上的诸多局限，其实源自人脑运作方式的一些根深蒂固的特性。不过，我们可以训练自己的数学技能；学会何时该相信或怀疑自己的数学直觉，彼此分享知识，互帮互助；我们可以塑造有利的环境，让困难的事情变得更容易，还可以打造各种工具来分担大部分的工作。
偏见已经成为我们自我的一部分。但在内心深处，我们也怀有贝叶斯主义的影子，那是一架有瑕疵的仪器，却能真正带我们接近真理。它或许并非尽善尽美，但足以让我们迈出脚步，上路启程。
脚注
[1] Robin Hanson, “You Are Never Entitled to Your Opinion,” Overcoming Bias (blog) (2006), http://www.overcomingbias.com/2006/12/you_are_never_e.html.
[2] This follows from the assumption that there are six possibilities and you have no reason to favor one of them over any of the others. We’re also assuming, unrealistically, that you can really be certain the admirer is one of those six people, and that you aren’t neglecting other possibilities. (What if more than one of the six people has a crush on you?)
[3] Albert Hastorf and Hadley Cantril, “They Saw a Game: A Case Study,” Journal of Abnormal and Social Psychology 49 (1954): 129–134, http://www2.psych.ubc.ca/~schaller/Psyc590Readings/ Hastorf1954.pdf.
[4] Pronin, “How We See Ourselves and How We See Others.”
[5] Robert P. Vallone, Lee Ross, and Mark R. Lepper, “The Hostile Media Phenomenon: Biased Perception and Perceptions of Media Bias in Coverage of the Beirut Massacre,” Journal of Personality and Social Psychology 49 (1985): 577–585, http://ssc.wisc.edu/~jpiliavi/965/hwang.pdf.
[6] Hugo Mercier and Dan Sperber, “Why Do Humans Reason? Arguments for an Argumentative Theory,” Behavioral and Brain Sciences 34 (2011): 57–74, https://hal.archives-ouvertes.fr/file/index/docid/904097/filename/MercierSperberWhydohumansreason.pdf.
[7] Richard E. Nisbett and Timothy D. Wilson, “Telling More than We Can Know: Verbal Reports on Mental Processes,” Psychological Review 84 (1977): 231–259, http://people.virginia.edu/~tdw/nisbett&wilson.pdf.
[8] Eric Schwitzgebel, Perplexities of Consciousness (MIT Press, 2011).
[9] Jonathan Haidt, “The Emotional Dog and Its Rational Tail: A Social Intuitionist Approach to Moral Judgment,” Psychological Review 108, no. 4 (2001): 814–834, doi:10.1037/0033-295X.108.4.814.
[10] Scott Alexander, “Why I Am Not Rene Descartes,” Slate Star Codex (blog) (2014), http://slatestarcodex.com/2014/11/27/why-i-am-not-rene-descartes/.
[11] Luke Muehlhauser, “The Power of Agency,” Less Wrong (blog) (2011), https://www.greaterwrong.com/lw/5i8/the_power_of_agency/.
下一篇：
Thoughts Memo：过于方便的借口Thoughts Memo 汉化组译制
感谢主要译者 claude-3-opus，校对Jarrett Ye
原文：Rationality: An Introduction (readthesequences.com)
作者：Rob Bensinger