开端：导论

Beginnings: An Introduction

❦

作者：Rob Bensinger

❦

作为 《Rationality: From AI to Zombies》 的最后一卷，这一部分与其说是结语，不如说是一份行动号召。延续 《Becoming Stronger》 作为进一步探索之跳板的功能，我将以一些资源作结，供读者用来走出这些序列，去追求对贝叶斯主义更完整的理解。

本书以贝叶斯概率论和决策理论来定义规范性理性，这种做法在认知科学中是标准观点。若想了解启发式与偏差（heuristics and biases）路径，可参见 Baron 的 Thinking and Deciding。1 若想对这一领域有总体性介绍，可参见 The Oxford Handbook of Thinking and Reasoning。2

本书这些篇章里关于理性哲学的论证，则更具争议性。例如，Yudkowsky 主张，在纽科姆问题中，一个理性行动者应当只拿一个盒子——而这在职业决策理论研究者中属于少数立场。3（关于纽科姆问题的非技术性介绍，可参见 Holt。4）Gary Drescher 的 Good and Real 也独立得出了许多与 Yudkowsky 在科学哲学与决策理论上的结论相同的结论。5 因此，这本书可说是对 《Rationality: From AI to Zombies》 核心哲学内容的一次极佳的整书篇幅阐述。

Talbott 区分了贝叶斯认识论中的几种不同观点，其中包括 E. T. Jaynes 所持的立场：并非一切可能的先验都同样合理。6,7 与 Jaynes 一样，Yudkowsky 也有兴趣为信念修正的贝叶斯最优性标准补上一条关于先验的最优性标准。这使 Yudkowsky 与那些希望通过改进的理想推理理论来更好理解通用 AI 的研究者站到了同一阵线上，例如 Marcus Hutter。8 若想更广泛地了解哲学界如何尝试把知识理论自然化，可参见 Feldman。9

「贝叶斯主义」常常与「频率主义」相对照。一些频率主义者批评贝叶斯主义者把概率当作主观信念状态，而不是当作事件的客观频率。Kruschke 和 Yudkowsky 则回应说，频率主义其实比贝叶斯主义更「主观」，因为频率主义给出的概率赋值取决于实验者的意图。10

重要的是，这一哲学争论不应和贝叶斯与频率主义数据分析方法之间的区分混为一谈；后两者在使用得当时都可能很有用。自 1980 年代以来，贝叶斯统计工具的使用成本不断下降，而它们的信息量、直观性与通用性也日益为人所重视，从而在许多科学领域引发了「贝叶斯革命」。不过，传统的频率主义方法仍然更为流行，而且在某些情境下，它们依然明显优于贝叶斯方法。Kruschke 的 Doing Bayesian Data Analysis 是一部有趣而平易近人的入门书。11

鉴于有证据表明，统计学训练——以及其他一些领域（如心理学）的训练——能够提升课堂之外的推理能力，统计素养就与「克服偏差」这一工程直接相关。（形式逻辑和非形式谬误课程并未被证明同样有用。）12,13

☙

尚在幼年期的技艺

最后，我们以三个关于个体与集体自我提升的序列作结。「Yudkowsky 的成年礼」最后一次深入展示了非理性信念的动力学，这一次聚焦的是作者自己的思想史。「挑战困难」探问：要解决一个真正困难的问题，需要付出什么——其中包括超出认识论理性之外的要求。最后，「技艺与社群」讨论了理性主义团体与群体理性，并提出如下问题：

  • 理性能否被学习与教授？

  • 如果能，可能实现多大程度的改进？

  • 我们如何才能确信，在某次理性训练干预中，我们看到的是真实效果，并且找对了原因？

  • 什么样的社群规范，会让这一自我提升过程变得更容易？

  • 我们能否在不牺牲思想与行为自由的前提下，有效协作解决大规模问题？

最重要的是：还缺了什么？下一代理性入门读物——那些将取代本文、改进其风格、检验其主张、补充其内容，并向全新方向分支发展的作品——应该包含什么？

尽管促使 Yudkowsky 写下这些随笔的，是他自己在哲学上的错误与在 AI 理论上的职业困境，但最终形成的材料却被证明对更广泛的读者都很有用。最初的博客文章启发了 Less Wrong 的成长，这是一个由知识分子与生活黑客组成的社群，他们共同关注认知科学、计算机科学与哲学。Yudkowsky 以及 Less Wrong 上的其他作者，也帮助催生了有效利他主义运动——这是一场充满活力且大胆的努力，旨在识别出最具影响力的人道慈善机构与事业。这些文字还促成了应用理性中心（Center for Applied Rationality）的建立，这是一个非营利组织，试图把理性科学中的成果转化为可用的自我提升技术。

我不知道接下来会是什么——还有哪些不同寻常的计划或想法，会从这些篇章中汲取灵感。我们当然并不缺少全球性挑战，而应用理性的技艺仍是一件新生而半成形的事物。理性主义者并不多，而尚未完成的事情却还有很多。

但无论你接下来将前往何处，读者——愿你善尽其所守之目的。

❖

  1. Jonathan Baron，Thinking and Deciding（Cambridge University Press，2007）。↩︎

  2. Keith J. Holyoak 和 Robert G. Morrison，The Oxford Handbook of Thinking and Reasoning（Oxford University Press，2013）。↩︎

  3. Bourget 和 Chalmers，「What Do Philosophers Believe?」↩︎

  4. Holt，「Thinking Inside the Boxes.」↩︎

  5. Gary L. Drescher，Good and Real: Demystifying Paradoxes from Physics to Ethics（Cambridge，MA：MIT Press，2006）。↩︎

  6. William Talbott，「Bayesian Epistemology」，收录于 The Stanford Encyclopedia of Philosophy，2013 年秋季卷，Edward N. Zalta 编。↩︎

  7. Jaynes，Probability Theory。↩︎

  8. Marcus Hutter，Universal Artificial Intelligence: Sequential Decisions Based On Algorithmic Probability（Berlin：Springer，2005），doi:10.1007/b138233。↩︎

  9. Richard Feldman，「Naturalized Epistemology」，收录于 The Stanford Encyclopedia of Philosophy，2012 年夏季卷，Edward N. Zalta 编。↩︎

  10. John K. Kruschke，「What to Believe: Bayesian Methods for Data Analysis」，Trends in Cognitive Sciences 14 卷，7 期（2010）：293–300。↩︎

  11. John K. Kruschke，Doing Bayesian Data Analysis, Second Edition: A Tutorial with R, JAGS, and Stan（Academic Press，2014）。↩︎

  12. Geoffrey T. Fong、David H. Krantz 和 Richard E. Nisbett，「The Effects of Statistical Training on Thinking about Everyday Problems」，Cognitive Psychology 18 卷，3 期（1986）：253–292，doi:10.1016/0010-0285(86)90001-0。↩︎

  13. Paul J. H. Schoemaker，「The Role of Statistical Knowledge in Gambling Decisions: Moment vs. Risk Dimension Approaches」，Organizational Behavior and Human Performance 24 卷，1 期（1979）：1–17。↩︎

《第六卷：变得更强》

[Yudkowsky 的成年礼

（序列）][26]