技术预测：小径分岔的花园

悲观的预测者往往像刺猬一样，过度自信且死板地固执于他们认为某事必然发生的唯一一种情境；但在现实中，穿越那座小径分岔的花园总是有许多条路，而某件事只要走通其中一条路就能发生。

摘要

技术预测中一个典型的认知偏差是动机性停止^[1]，以及缺乏足够的想象力去运用「钢铁侠辩论法（Steelmanning）」（即设想对方最强有力的可能性）。
许多人在大脑中构建技术发展的模型时，总认为它们是按照串行顺序依次推进的，并假设每一步都必不可少，只有所有步骤叠加在一起才能大功告成；一旦他们发现某个特定的步骤极其困难或不太可能成功，便会断言整个系统必将失败且永远不会实现。但在现实中，很少有哪一步是真正非有不可的。
进步之所以是「可以预测的不可预测」，原因在于：一项技术只需以一种方式成功便算成功，而要失败则必须在所有方式上都走不通。人们可能会找到许多方法来绕过、近似替代、暴力破解、减少对某一步骤的依赖、或者干脆完全跳过那一步，甚至直接重新定义问题，让这个问题根本就不再涉及那个步骤。这方面著名的例子包括曼哈顿计划和阿波罗计划中所采用的并行研发策略，他们当时的逻辑正是：尽管通往最终目标的每一条道路都困难重重，但只要其中一条能走通就行——而事实证明，他们确实走通了。
在进行预测时，为了对抗这种认知偏差，我们应该努力去设想所有可以被并行推进的替代方案，并时刻牢记：只有当所有方案都宣告破产时，才是真正的整体失败。

在批评一项技术或预测其未来进展时，最常见的错误之一就是对「这项技术究竟是什么」抱有过于僵化的理解：批评者总是问「它怎么会失败」而不是「它怎么能跑通」；他们总是假设 20 年后的技术和现在一模一样，使用相同的组件来实现相同的目标，并且每个组件都无可奈何地死死依赖于另一个组件，以至于牵一发而动全身，一着不慎满盘皆输。这种思维导致了悲观的外推和「末日即将降临」的论断，然而在事后看来，这些论断往往显得滑稽可笑，因为当前的技术仅仅是真正（但在当时尚未为人所知）技术的「稻草人靶子」。而批评者往往只要找到一种最极端的反例就心满意足了：即如果一项技术以最愚蠢的方式被实施或使用，将会造成多么糟糕的后果——就好像那是唯一可能的实施方式，或者好像被滥用是绝对不可避免的自然规律一样——然后他们就沾沾自喜地宣布，问题已经一锤定音了。

举个例子，有人注意到某个问题（比如蛋白质折叠）在计算复杂性等某些理论层面上是困难的，于是便断言它不可能被很好地解决，进而得出一般意义上的 AI 也是不可能的结论；他们根本不去问，有没有办法绕过这种特定技术论断的严苛前置条件——而事实证明，这种绕道的方法往往是存在的。（这不禁让人想起那个著名的笑话：一个病人去看医生，摆出一个别扭的瑜伽姿势抱怨道：「医生，我这么做的时候好疼啊！」医生回答说：「那你别那么做不就行了。」）

功能固着

功用之显现，本无定法。
——云门文偃（由道元引述，见《谁在为猫争吵？道元眼中的道德行为与开悟》，Mikkelson 1997。）

这种谬误的核心错误，让人联想到心理学上的创造力测试。测试要求受试者用诸如肥皂盒、图钉等日常物品制作一个烛台，或者尽可能多地说出一块砖头的用途；如果一个受试者脑子里死死认定「砖头就是砖头」，或者不愿把肥皂盒想象成一个可以钉在墙上的托盘，那他就永远无法很好地完成测试。当看到别人轻松解题时，他会感到惊讶，甚至在内心深处觉得别人是作弊了（哪怕别人的方法确实好用）。

在定义一个系统时，人们往往容易把它看作是一个「环环相扣（conjunctive）」的系统，认为每个环节都必须完美运转：D 依赖于 C1，C1 依赖于 B1，而 B1 依赖于 A1；因此，只要在 A1、B1 或 C1 中发现任何瑕疵，整个系统就可以被全盘否定，被斥为异想天开。他们认为，只要证明 A1 很有可能不成立，就足以证明 D 也很可能无法实现。这种思维模式的问题在于：用它来对某个现有系统进行直接的批评，或者将其作为工程设计的排雷手段，或许是绰绰有余的；但如果用来回答「D 能否在 10 年内实现」或「这个系统概念是不是个好主意」这样的问题，它就完全不适用了！因为面对这种批评，人们完全可以通过换用 A2、A3、A4、A5 甚至 A6 来修复问题；或者，也许根本就不需要 A 这种东西，而是直接切换到一套全新的 {D, X1, Y1, Z1} 系统架构。如果在思考时仅仅盯着一个子集，从而忽略了这些可能的替代路径，就会导致对总成功概率的严重低估（向下偏差）。批评者会问：「这个系统有没有可能失败的地方？」找到一个后就戛然而止；但预测者会问：「有没有哪种系统存在成功的可能？」然后继续不断地去探索。

尝试，尝试，再尝试

这些士兵真是好样的；他们总是专挑栅栏最厚的地方硬闯。
——德·罗贝克（De Robeck）海军上将，评价加里波利登陆战（对罗杰·凯斯（Roger Keyes）爵士所言；记录于《海军回忆录 1910-1915》第 296 页，Keyes 1934。）

绝大多数技术目标在逻辑上都是「分离性（disjunctive）」的，意思是「条条大路通罗马」，只要能达成最终目标，中间尝试过多少条死胡同都无关紧要。如果一种方法让人碰壁（「感到疼」），那就像笑话里说的「那就别那么做」，换一种方法就是了。批评者要想否定它，就必须证明所有可能的方法都行不通，而不是陷入「专业知识的诅咒」，安于利用自己的专业背景去挑刺少数几种方法——这种四处散布怀疑的做法虽然简单得多，但也无用得多。人类要实现飞行，根本没必要去复刻鸟的翅膀，只需找到某种能飞上天的办法即可——事实证明，人类发明了无数种能够成功飞行的推进方式，而它们与鸟类的飞行原理几乎毫无相似之处（比如热气球、轻于空气的气体、喷气式发动机、冲压发动机、火箭、地效飞行器、螺旋桨、直升机/旋翼机、旋翼风筝/机翼等等）。如果有个批评者对莱特兄弟或蒙特哥菲尔兄弟（热气球发明者）说，你们的方法不可能、也永远无法像鸟儿一样飞行，那他完全正确；但如果他借此宣称人类不可能飞行，或者要等上几百年才能飞，那他就大错特错了。同样，曼哈顿计划和阿波罗计划都有明确的技术目标，但这些目标也是分离性的，因为无论是提炼铀或钚，还是登陆月球，都有好几种潜在的路径可以实现目标；每条路径都面临着令人生畏的技术与科学壁垒，也都有批评者在一旁预言失败，但现实是：只要有一条路走通就够了。在不计成本的投入下，他们齐头并进地推进了多条路线，最终至少有一条路大获成功。再比如，托马斯·爱迪生知道在他之前有无数人试图发明实用的电灯泡但都失败了，而他自己在尝试了数百种方案后也屡屡碰壁；这难道意味着电灯泡永远也发明不出来吗？当然不，这只意味着他必须不断尝试各种灯丝材料，直到找到那种能发光的，这就足够了。我们可以把技术研发比作计算机黑客的攻防战：两者都具备一种安全思维（security mindset），他们只需要找到一种方法，去突破大自然或商业公司横在眼前的防御壁垒；如果防火墙实在攻不破，那就去黑他们的打印机，向他们的服务器里注入怪异机器（weird machine），或者干脆直接给秘书打个电话，假装自己是 CEO 来骗取密码！

只要结果奏效，我们几乎不需要在具体方法上死板苛求；我们完全可以灵活变通。

如果虚拟现实（VR）头显每只眼睛必须达到 4K 分辨率才能提供令人满意的体验，但这对于目前的 GPU 来说渲染压力太大，这是否就证明了 VR 是不可能实现的？还是仅仅意味着我们必须发挥一点创造力，去探索诸如「注视点渲染（foveated rendering）」这样的作弊替代方案，从而只渲染屏幕上一小块区域的 4K 画质？站在 10 年后的未来看，你觉得这还会是个问题吗？当然不会，因为分辨率和画质只是一个分离性的问题，就像早年 VR 的晕动症一样——晕动症最终是被连续的高分辨率、更好的光学镜片、高帧率（FPS）、移动机制改进、手柄跟踪优化以及软件和游戏设计的调整这一整套组合拳给解决的；并没有哪个技术组件被证明是所有潜在解决方案中绝对无法逾越的死穴。如果出于不可抗拒的物理法则，真空管很快就无法再缩小了，这是否意味着摩尔定律就此终结，计算机将永远像 ENIAC（第一台通用计算机）那么庞大？或者说，这也是一个分离性的问题，只要能提供计算载体，什么材料都可以，真空管的增长 S 曲线终将被晶体管等其他材料的 S 曲线所接力，从而在现代继续维持摩尔定律？（事实上，如果在显微镜下仔细观察，任何指数级的增长可能都是由一层层的 S 曲线叠加而成的；在这其中，人类会定期寻找替代方案以推动技术继续向前。即便你能正确论证某项特定技术即将触及天花板，也依然不能证明指数级增长的趋势就此停滞——除非你能证明在当前的 S 曲线之后，绝对找不到任何替代方案。）如果老派的符号人工智能（GOFAI）专家系统最终被证明效果不佳，那专家系统是一个结合性的（conjunctive，即缺一不可的）问题，证明它是通往人工智能的唯一死胡同？还是说人工智能是一个可以被多条路径攻克的问题，而进步依然会继续？如果比特币的交易只能做到伪匿名，且加密货币区块链的规模扩展性极差，这些究竟是结合性的问题，还是分离性的问题？（即便你没有去追踪了解隔离见证（SegWit）、Mimblewimble、分片（sharding）、MAST、无脚本脚本、Schnorr 签名等一系列改进提案，这个答案也应该显而易见。）如果像全基因组关联分析（GWAS）这样的基因研究，在特定的时期内只能解释测量到的一小部分个体差异，这是否就证明了 GWAS 是一种彻底失败的方法论，甚至说明遗传学总体上根本不重要？还是说，我们应该意识到数据会继续像滚雪球一样积累，尽管目前 GWAS 在十几个方面还存在效率低下的问题，但我们完全有理由期待它的预测能力会持续增长？自动驾驶汽车到底可以接入多少种不同的传感器才能达到人类级别的安全性？诸如此类。同样的观察逻辑也适用于各种不可能性证明（impossibility proofs）和无解定理（no-go theorems）。（出于某种奇怪的原因，许多人深信停机定理（Halting Theorem）或哥德尔不完备定理能够从原理上证明创造任何人工智能都是不可能的。然而这些定理根本得不出这样的结论，这就好比它们并没有证明类型检查器、超大型机器或它们自身的存在是不可能的一样。）

通常情况下，这些批评和论证看起来十分唬人，但在实践中，人们却总是在持续不断地完成「不可能」的壮举，或者涉足那些被断言「不可企及」的领域；这是为什么呢？

这是因为证明的推导过程或许完全正确，但就像任何证明所依赖的前提假设和定理本身一样，魔鬼藏在细节里：也许一开始的前提假设就不具有现实意义，或者这个定理的实际含义根本不是你想的那样。也许创造一个准确率达到 100% 的算法在数学上是不可能的，但这 0.01% 的错误可能只会发生在那类现实中永远不会出现的输入数据上；或者算法给出的结果虽然只是个近似值，但对于所有的实际应用来说，它与精确答案毫无二致；甚至它出错的概率，比一个人在苦思冥想时，他的电脑或大脑被宇宙射线击中或突发中风的概率还要低。等等。在讨论 AI 风险时，就经常出现这种现象的一个典型例子：有一派观点认为 AI 永远不可能构成危险，所谓的 AI 风险根本就是无稽之谈。这种观点依赖于最坏情况下的算法复杂度理论——他们观察到许多诸如 3SAT 这样极其重要的问题都是 NP-hard 问题，解决这些问题所需的计算量会呈指数级爆炸，迅速膨胀到根本不可行的地步；由此他们推断，人类和 AI 在面对这些问题时智力必然是受限且平等的，因此 AI 不可能具有碾压性的危险（见上文）。不幸的是，这种推论的每一个前提都经不起推敲：最坏情况在现实中往往并不相关；被他们在数学上忽略的常数项在现实中可能是致命的；智力或能力上的一丁点微小差异，特别是在残酷的竞争中，可能会产生巨大的复利效应；问题可以通过被重新拆解来绕过难点或降低难度；你可以简单粗暴地向问题砸入极其海量的算力；此外，AI 还拥有许多人类无可比拟的优势，比如长生不死，而这种优势与算法复杂度根本毫不相干，等等。关于 3SAT 属于什么复杂度类别的数学证明当然是无懈可击的；问题仅仅在于，他们所证明的东西并不是得出其最终结论所必需的，而得出其结论所必需的东西，他们却根本没有证明。

那么，究竟在什么时候从「结合性（缺一不可）」的角度进行论证才是有效的呢？

有时候，我们确实可能得出像基于物理学基本定律那样的普遍性不可能性证明；如果一个目标被发现在热力学或信息论层面上根本违背了物理法则，那就是一个强有力的信号，意味着没有谁能实现它。以备受争议的「人体冷冻（cryonics）」技术为例，一个有效的、结合性的反证应该是：证明人类大脑中所有关键的记忆和人格信息在临床死亡后的几分钟到几小时内，就会在物理层面上永久丢失或被不可逆地破坏；相反，一个无效的结合性反证则是去罗列一长串的条件概率：「你有 10% 的几率死在医院里，死后只有 10% 的几率能在几小时内被玻璃化冷冻，在此期间 ALCOR 只有 10% 的几率不破产，未来只有 10% 的几率你的身体能够被健康地重新培育出来……把这些概率相乘，它成功的几率无限趋近于 0%。」这种反驳是无效的，因为这其中的每一步并不是真正的结合性（缺一不可）关系，而是分离性的（一个人完全可以死在其他地方；大脑信息的保质期并不绝对明确；冷冻机构破产并不等同于遗体必须被解冻遗弃；重新培育肉身也并非实现意识复苏的唯一途径等等）。

还有些时候，某项技术在某一个关键环节上遭遇了本质的瓶颈，而跨越这个瓶颈的所有可能方案都极其困难，此时它就变成了「准结合性（quasi-conjunctive）」的问题；而与它竞争的另一种技术范式则是分离性的。为了创造出被极度优化的人类基因组，存在两种路线：「迭代胚胎选择（IES）」与「基因组合成」。迭代胚胎选择需要极度精确地控制干细胞转化为配子，然后再由配子结合的过程，如此循环往复数十个「世代」来施加进化选择压力，从而优化出特定特征。考虑到诱导细胞逆向退化为干细胞、再定向发育成特定类型细胞的技术难度极其棘手，这条路上可能只存在唯一一种可行的生物学程序，而没有其他替代方案；但是「基因组合成」的理念则是直接从零开始，人工合成出一条预先设计好的最优人类基因组；正如基因组测序领域有众多相互竞争的技术一样，目前有许多不同的方法可以将核苷酸拼接组装成定制基因组，这些多管齐下的方法促成了基因组合成成本的指数级暴跌；并且科学界还提出了许多其他有潜力的方案（比如利用特殊的酵母细胞），有望将合成单个人类基因组的成本进一步降低至数百万美元（然后就可以无限次地批量复制使用）。在这里，迭代胚胎选择（IES）是强结合性的：如果干细胞诱导那一步卡了壳，整个循环就彻底泡汤；而基因组合成则是分离性的：有无数种路线可以尝试去合成核苷酸，如果这条路不通，随时可以换下一条。我们预期哪种技术会率先实现？IES 虽然起步极早、积累深厚，但基因组合成的进步却像节拍器一样稳健无阻，因为它如果在这条轨道上被堵死，只需轻松跳到另一条轨道继续前进；所以就目前而言，我把筹码押在基因组合成上。

预测的核心问题

因此，在对诸如全基因组关联分析（GWAS）、比特币或虚拟现实（VR）等技术进行预测时，可以试着问自己以下几个有价值的问题：

是否存在来自热力学、进化论或经济学等强大理论法则的硬性约束，从而为整个系统的发展设定了绝对的边界？
如果按功能对系统进行拆解，实现每个逻辑组件分别有多少种不同的替代路径？是否存在某个步骤构成了致命的瓶颈，且目前看来没有任何明显的方法可以去规避它、重新定义它，或是通过「大力出奇迹（暴力破解）」来解决它？
它过去的进步轨迹是否呈现出某种线性或指数级的趋势？如果你顺着这个趋势向未来推演 20 年（在宏大的历史尺度中，这点时间偏差微不足道），会发生什么？如果这种趋势是指数级的，那么它是否是由一系列首尾相接的 S 型曲线叠加而成的（这表明在技术和路线的选择上具有极大的灵活性）？
该系统在它的每一个组件层面以及作为一个整体，能够从哪些经验曲线（学习曲线）中获益？如果累计产量每翻一倍，成本就能下降 5%，那么接下来会发生什么？价格的下降又能激发多大的市场需求？系统中有哪些输入资源是具有累积效应的，比如数据集的规模（例如，迄今为止已完成测序的基因组数量）？
它是否能从 CPU、内存、硬盘或 GPU 算力（FLOPs）的各种变体版的「摩尔定律」中持续获益？原本必须投入固定成本的物理硬件或人力，能否被软件、互联网或统计学方法所取代？整个流程中是否有任何环节是可以被并行化处理的？
目前投入到优化该技术的人才处于怎样的智力层级？系统底层还潜藏着多少「常数因子」级别的冗余空间，正等待着被微观层面的极致优化所榨干？

外部链接

Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.1-pro，校对 Jarrett Ye
原文：Technology Forecasting: The Garden of Forking Paths
首次发布于 2014-06-01；最后更新于 2019-06-09；状态：已完成；置信度：可能；重要性：6/10。

参考

1. 动机性停止和动机性继续 ./25143636684.html

专栏：Gwern Branwen

← 返回目录