案例 1：海盗 1 号着陆器
20 世纪 70 年代，NASA 向火星发射了海盗 1 号和海盗 2 号探测器。当时的总耗资为 10 亿美元（按 2025 年币值计算约为 70 亿美元）。海盗 1 号在火星表面持续运行了六年，直到其电池性能开始严重衰退。
按常理，电池老化这种故障本该宣告任务的不可逆终结。探测器早已发射升空，此刻正孤悬在数千万公里外的火星表面，任何人类维修技师的手指都绝无可能触及。那么，在 1975 年 8 月飞船升空多年后一旦发现技术故障，真的就只能坐以待毙了吗？
然而，海盗 1 号那些深具远见的工程师们，早就针对这类突发状况准备了预案——他们虽然无法预见具体是哪里出故障，但预见到了这种可能性。在设计之初，他们就让海盗 1 号具备了通过无线电接收来自地球的软件更新代码的能力。
1982 年 11 月 11 日，地面控制中心向海盗 1 号发送了一次软件更新补丁，旨在优化电池充放电逻辑，确保电池只放电到最低安全电压，而不是每次充电后盲目运行固定时长。
但这套电池管理软件更新，意外覆盖了控制天线指向的软件代码。
由于着陆器的高增益天线从此偏离了轨道器，从那一秒起，它再也无法接收来自地球的任何后续指令。
为了修正错误而预埋的修复机制，在运行中亲自摧毁了修复机制本身。
地面与海盗 1 号着陆器的联系彻底永久中断。尽管地面工程师们根据天线可能偏转的角度推演了各种姿态并尝试盲发指令，但终究无力回天。
在此，我观察到了一个普适规律的具体缩影：墨菲定律施加给太空探测器的「不可触及性诅咒」是一个极其深层的系统级问题；而试图靠日后打补丁来解决问题的巧妙系统，相比之下只是一种浮于表面的浅层方案。
给飞机装上机翼并不会让它凭空失去重量，更无法废除万有引力定律。飞机的自身重量是一种内在物理属性，只要机翼失去升力，它就必然从万米高空坠落。你在给飞机建模时，必须同时考虑重力与升力的动态平衡；而绝不能狂妄地宣称：因为有了机翼，飞机自身重量的诅咒就被彻底消除了。
工程师们试图缓解深空发射「单次成败性（oneshot）」的策略——那套预先设计的事后纠错机制——并没有真正把海盗 1 号变成一辆坏在路边随时可以走过去检修的家用轿车。任何直接打击到纠错机制本身的故障，都会瞬间将你打回物理不可触及的原形：你根本无法走过去修理那个负责纠错的故障模块。（更不用说，现实中绝大多数潜在灾难性故障根本不是刷个固件就能解决的。）冰冷的底层物理现实从未改变：探测器始终孤立无援地悬在深空。
如果墨菲定律作用于航空航天项目的那些极端严苛条件，靠耍点小聪明就能轻易克服，那么火箭科学也就不会因为饱受墨菲定律的摧残而闻名于世了。墨菲定律强加给宇航工程的重重诅咒可以被顽强抗争，但绝不可能被彻底消灭或驱散。
优秀的航天工程师对此心知肚明。正因如此，他们才会倾注常人难以想象的极度审慎与偏执——唯有如此，才有可能偶尔换来任务的成功。
试想一下，如果航天团队的工程师或主管们天天到处吹嘘：「我们的深空探测器在发射后根本不存在无法触及的问题；我们早就预装了天线来打补丁！别听那些胆小鬼胡说什么发射后『无法走过去修理』；他们无非是缺乏我们的先进经验，想不出 OTA 远程更新这种天才点子罢了！」——倘若真是这样一帮人掌舵，深空探测任务的成功率还能剩下几成？
把这种乐天派天真汉的实际任务成功率估到 10%，都算高得荒谬。航天工程师必须付出远比这残酷得多的心血，保持远超常人的敬畏与审慎，才能把任务的成功概率从 0 艰难地往上拉抬一点点。
案例 2：火星观察者号
火星观察者号任务于 1984 年 10 月正式立项，并于 1992 年 9 月发射升空，耗资 8.13 亿美元（相当于 2025 年的 20 亿美元）。它在深空平稳飞行了 330 天；然而，就在进入火星轨道前整整三天，探测器毫无征兆地彻底失联。
最权威的事故调查推论是：在经历了剧烈的发射过载以及在太空真空中长达 11 个月的漫长巡航后，一个 PTFE 单向阀发生了微量泄漏，导致燃料与氧化剂蒸汽在失重环境中于管道内悄然富集；当发动机为了入轨进行姿态调整而重新点火时，瞬间引发了毁灭性爆炸。
当你试图第一次做某件前所未有的事情时，这种灾难几乎是宿命般的。太空探测器之所以对墨菲定律极度易感，核心原因就在于每个新探测器都是针对全新任务定制的。每一次新任务，都是让未知漏洞暴露的全新温床。
现在，试想在灾难发生前，某位项目经理或狂热太空迷站出来宣称：「火星观察者号任务根本谈不上什么新颖性！我们完全可以在地面真空室里做充分测试！我们拥有此前多次深空任务的丰富经验！我们背后有巍峨的现代物理学大厦；我们完全可以利用物理定律，精确推演火星观察者号飞往火星途中的全部系统行为！」
让我们逐条剖析为什么这种说辞根本无法化解墨菲定律强加给深空任务（尤其是火星观察者号）的「新颖性诅咒」：
- 哪怕人类确实从以往的深空任务中汲取了经验，以往的探测器也绝不可能与火星观察者号完全一致。该任务在底层物理上的终极新颖性，从未被打破、消除或规避。
如果人类在毫无经验积累的前提下贸然尝试，火星观察者号可能会暴毙得更早。这并非抹杀以往经验的价值。但残酷的事实是：人类从以往那些并不相同的探测器身上总结出的规律，根本不足以在全新的工况下实现高可靠的正确泛化，不足以护送这艘全新的火星观察者号安全抵达目的地。
- 哪怕有人把探测器放进离心机里模拟超重发射，并在地面真空室里测试了所有子系统，那依然无法在物理上完全复现推进剂蒸汽在深空真空中缓慢渗漏、并在零重力下悄然积聚长达 11 个月的确切微观工况。地面实验室的验证分布，绝不可能与实际部署时的物理分布完全重合。
这就是为什么你绝不可能通过统计学上的数学证明，为深空探测器提供绝对的可靠性背书。训练分布绝非部署分布，这一物理铁律直接把所有纸面上的数学保证全盘撕碎。正因航天工程师不是神棍，他们对这一极限心知肚明，也从未有人敢妄称自己的系统拥有任何形式的数学完备性保证。
现实中充斥着这种分布偏移。即便是在远比深空探测更接地气的日常生活中，你也绝不可能通过巧妙的统计学定理来确保一场普通的人际对话百分之百顺畅，因为世上没有两场完全相同的对话，人类交互也绝非从时间不变的静态分布中采样的玩具。
- 人类对化学和经典物理学的深刻掌握——这些定律建立在对海量物理现象提炼出的极简数学公理之上，并且精确作用于与火星观察者号内完全同构的分子与气体，其组装逻辑也是经过无数次验证的确定性机械过程，相比于复杂的计算机大工程或生物化学简直简单得微不足道——然而，这全部的物理学知识，依然不足以让人类完全预测并掌控这次任务的最终命运。
洞悉所有的基础物理定律，并不能消除一个即便复杂度如此微小的系统在真实世界中所能展现出的未知惊险。它并没有把一次前所未有的深空探险，降维成在同一块钛合金上重复敲击的机械劳动。
再次强调，这并不意味着人类掌握的现代物理学对火星观察者号的贡献为零。如果人类对底层物理的认知水平退化到中世纪炼金术士的阶段（整天高谈阔论各种试剂的哲学灵性，每位炼金大师都在为太空任务规划自己的宏图大略，每一步都充斥着崇高的形而上学道德教化），那么这项深空任务注定会溃败得更早、更惨烈——那种滑稽的灾难甚至超出了人类的反事实想象力。
正是因为人类对底层机械过程有着深刻的物理理解，火星观察者号才得以无限接近成功——这种无限接近，是中世纪炼金术在面对长生不老药、乃至在面对把铅炼成黄金这种简单目标时，永远可望而不可即的。
归结起来：即便你同时做到了 (1) 汲取以往探测器的全部经验，(2) 在高度模拟太空环境的受控实验室中反复测试，(3) 精准掌握全部底层的基本物理定律[1]，(4) 对主导全局的宏观工程现象拥有极其出色的定量建模能力，以及 (5) 严格执行 NASA 级别的红蓝推演、沙盘模拟和全流程风控，这一切依然未能废除墨菲定律对深空任务的「新颖性诅咒」。说到底，这依然是人类历史上第一次发射火星观察者号。
NASA 在认知与工程层面付出的艰苦卓绝的努力，确实能够正面抗衡这种新颖性诅咒，这是任何炼金术士的清谈都无法做到的（哪怕那位炼金术士碰巧蒙对了一两条经验法则）。NASA 内部为这一项目倾注数年心血的顶尖团队，其展现出的专业素养、工程敬畏、前沿科学底蕴、专项攻关周期以及全局严谨度，远远甩开了任何中世纪炼金术士或当代 AGI 科技巨头高管好几个数量级。
……然而，这依然未能彻底驱散墨菲定律的终极诅咒。这依然不足以让火星观察者号在现实中真正生还。
NASA 那些极其严肃的科学家拼尽全力，也仅仅是将火星观察者号推到了差一点就成功的边缘。甚至连切尔诺贝利核电站那致命的 RBMK 反应堆设计，在现实中也「差一点就成功了」——在发生毁灭性大爆炸之前，它平稳运行了整整几十个堆·年！尽管苏联高层设立了扼杀悲观预警的「灾难鸵鸟姿态」，但苏联的核物理工程师对物理规律的敬畏和认知，依然远胜于古代炼金术士或今天的 AGI 创业公司。他们拥有基于第一性原理推导出的完整理论体系，白纸黑字地记录着为什么反应堆在正常工况下绝不会爆炸！他们的主控室里整整齐齐地摆放着全天候操作规程，而这些手册绝不是为了应付公关而捏造的废纸！
残酷之处在于：要让一个深陷墨菲定律诅咒的高危项目在现实中真正成功，而不是差一点成功，其难度要呈指数级飙升。
（再次澄清：专业素养并不能把任何荒谬绝伦的项目奇迹般地推向差一点成功。即便你把 20 世纪 70 年代 NASA 最精锐的科学家集结起来，要求他们研发一种具有强传染性、能改写人类基因实现逆龄长生不老的生物病毒，他们连「差一点成功」都做不到。「研发永生病毒」的难度级别，彻底击穿了那个时代最严肃学者所能触及的物理边界。真正的严谨与专业，首先体现在对项目受诅咒程度的敬畏清醒，绝不在关乎生死的超高风险博弈中沦为赌徒与疯子。）
案例 3：马奇诺防线
1939 年 9 月，纳粹德国闪击波兰，第二次世界大战正式全面爆发。
1940 年 5 月，德军的大炮对准了法国。
而法国自以为稳操胜券。
早在危机降临前 11 年的 1929 年，法国就富有远见地启动了马奇诺防线的建设：这是一套沿法国边境修筑的、造价惊人的地下要塞防御网络。如果这套工事能赶在一战前建成，法国在一战中早就轻而易举地取得了防守反击的完胜。马奇诺要塞通体由地下电气化铁路串联，补给线几乎不可能被切断；仓库里堆满了如山的弹药和军粮；要塞内部甚至全天候配备了空气净化与空调系统——这在 1940 年的军事要塞中堪称不可思议的极致奢华，更是无数一战老兵梦寐以求的战场天堂。
法国极其深刻地吸取了一战战壕绞肉的惨痛教训，并将这些血泪经验淋漓尽致地投射到了未来的防御设计中！
由于造价极其高昂，马奇诺防线并未在物理上无死角覆盖法国的全部漫长国界。但它不仅封锁了德法直面接壤的边境，还严密布防了德国可能借道突袭的其他邻国边界；法国统帅部自认为做到了滴水不漏。至于留下的少数防务缺口，全部经过了极其严密的战略论证。例如，法国断定地形崎岖、古树参天的阿登高地是天然的装甲禁区；任何敢于借道阿登森林的德军装甲部队，必将被原始地形严重迟滞，并在法军优势航空兵的狂轰滥炸下沦为活靶子。法军总参谋部精确计算得出：德军哪怕想强行穿过阿登森林，至少需要耗费 3 天甚至整整一周的时间；而这段充裕的时间，足够法国统帅部从容调集精锐主力装甲军团，在阿登出口处以逸待劳、全歼残敌。
马奇诺防线的战略初衷，就是为了彻底遏制闪电战带来的猝死性崩溃，确保法国在调集战略预备队之前，绝不至于被一波流带走。
然而，德军正是全线借道阿登高地发起了致命突袭。纳粹装甲师通过高度精密的工程组织，以不可思议的速度强行劈开了森林通道；德国空军在阿登上空撑起了密不透风的制空防空伞，彻底粉碎了法军空袭装甲纵队的企图。
法国瞬间土崩瓦解。
在战败之后，法国总参谋部耸耸肩说了声「哎呀翻车了」，然后从 1929 年刚动工修建马奇诺防线的存档点读取存档，在第二次尝试中把防线一路加盖到了阿登森林……
这当然是个地狱笑话！在现实物理世界中，法国沦陷了，彻底退场；纳粹铁蹄踏平了高卢雄鸡，并在二战的大部分时间里对其实施了残酷的殖民占领。
在一场决定种族与文明生死存亡的严酷战争中（而不是封建领主之间的过家家游戏），你永远只有一次尝试机会。
「赌徒破产理论（Gambler's ruin）」是一个严谨的数学概念，用来描述一个孤注一掷的赌徒在把全部筹码推向赌桌后的必然宿命：一旦你的本金归零，游戏就宣告彻底结束，你将再也没有任何翻盘的机会。我借用这个概念提出「墨菲定律的毁灭诅咒」：它专门笼罩在这样一类项目之上——一旦你失败得足够彻底，你将彻底丧失第二次尝试的资格。
现实世界中的许多重大决策皆是如此。绝大多数创业项目根本没有读档重来的机会；在高风险的生死谈判中同样没有重来的机会。我们之所以往往对这种「毁灭诅咒」视而不见，是因为我们的大脑被某些特殊的安逸场景给宠坏了：比如一个硬件工程师在烤面包机原型烧毁后，可以从容地再焊一块板子；或者一个软件程序员在代码报错后，可以惬意地改一行逻辑然后重新编译运行。
如果现实要求工程师只能做一次原型，人类的工程产出将瞬间缩水；如果程序员被剥夺了重新编译的权利，软件工业将不复存在。
在工程实践与现实物理世界中，你究竟能获得多少次试错机会，是决定一个项目是否具有现实可解性的绝对分水岭。
无论在现实人生还是灭国战争中，仅有一次机会，其难度都将上升至地狱级别。
剖析那些试图否定「单次成败性」的荒谬狡辩
现在，让我们把时钟拨回二战爆发前十年的 1929 年，正是马奇诺防线破土动工的时刻。试想在法国最高国防委员会的殿堂里，某位学者作为常识指出了一个严峻事实：法国在马奇诺防线上只有一次做对的机会，因为在国家存亡的终极战争中，容不得任何致命试错。
试着想象一下——这确实需要一点荒诞派戏剧的想象力，因为哪怕在 1929 年的法国，军方高层好歹大多还算得上是正常人——试着想象法军高层傲慢地打断这位发出预警的悲观者，高谈阔论道：
「你说我们在对德战争中『只有一次正确指挥的机会』是什么意思？这些关于『单次性』的恐慌炒作到底有何依据？在未来的战场上，法德士兵之间会发生成千上万次局部交火，我们的国家绝不可能因为倒下一名法国士兵就瞬间灭亡！我们在消灭德国士兵这件事上拥有无数次尝试机会！我们坚决驳斥你那套『全体德国装甲兵会直接瞬间传送到巴黎市区、在一场单次决战中定胜负』的荒谬理论。我们不仅拥有打赢一战的丰富实战经验，平时警察抓罪犯的小规模对抗更是家常便饭；当下一次大战爆发时，它绝非什么前所未见的新鲜事。随着德军推进，我们完全可以在边打边学中不断迭代认知；毕竟战争是一个连续的物理过程，德军必然是一个营接一个营地跨过边境，绝不可能瞬间降临。你说如果我们输了就会被亡国灭种、再无翻盘机会？那我们大可以暗中挑动俄国从东线进攻德国，让我们的敌人两败俱伤嘛；这样法国就不会沦陷，我们就可以反复获得同德国作战的实战样本。退一步讲，我们甚至可以绑架一个德国婴儿，从小驯化他有问必答，等他长大到足以预测德军战术、但心智又单纯到不会撒谎的年龄，让他亲自教我们如何打败德国；只要敌人的能力提升能反过来为我所用，军事力量的平衡就绝不可能发生断崖式突变。你看，我们手里明明有一大把锦囊妙计！我们根本不需要像你所鼓吹的那样，在毫无实战经验的前提下，非要在第一次尝试中就搞出一套完美无瑕的战争数学理论来克敌制胜；战争问题绝不是什么只能尝试一次的单选题！」
听完这番宏论，你唯一能得出的结论，就是这位发言者陷入了极度病态的动机性装聋作哑。他们为了粉饰太平而摆出的「灾难鸵鸟姿态」，其荒谬程度早已远远碾压了切尔诺贝利事故前夕的盲目乐观，甚至把 1930 年代法国无视阿登山地兵推预警的傲慢都远远甩在了身后。
一旦在现实中听到有人讲出这种逻辑的黑话，你就绝不该再把他们当成「仅仅存在偶发盲点的严肃学者」了。在这个节点之后，我会毫不犹豫地将这类人定性为「灾难学舌猴」。
但为了正本清源，让我们逐条彻底拆解上述言论中的全部逻辑谬误：
你说我们在对德战争中只有一次正确指挥的机会是什么意思？在未来的战场上，法德士兵之间会发生多次局部交火，我们的国家绝不可能因为倒下一名法国士兵就瞬间灭亡！我们在消灭德国士兵这件事上拥有很多次尝试机会！
- 一个宏观战局在本质上完全可以是单次决胜（oneshot）的，哪怕当你把显微镜对准微观局部时，确实能找到无数个局部的、局部失败并不直接导致战局全盘崩溃的小规模冲突。
——「成功融到资并把一家制鞋初创公司做成商业巨头」是一个单次成败问题，尽管「研发出一款脚感优秀的新跑鞋」不是。你可以在鞋垫材质上反复试错迭代无数次；但在整家公司的生死存亡上，你的机会窗口只有一次。[2]
- 从形式逻辑上讲，在审视一个跨越漫长时间的大型战略系统时，仅仅因为看到它包含某些「局部出错并不立刻致死」的子模块，就断定整个宏观系统不属于单次成败体系，这在逻辑学上叫作标准的「合成谬误（fallacy of composition）」。
——初创公司的单次成败性，是贯穿整个宏观项目周期的全局属性，并不要求沿途的每一次呼吸和每一次握手都具备致死性。因此，拿着某次无关痛痒的局部微观交互来沾沾自喜，根本无法驱散笼罩在整个宏观战略之上的「单次成败诅咒」。
- 毫无疑问，火星观察者号在彻底失联之前，其分系统内部必然经历过多次可逆的、并被地面成功纠正的小故障。但从把全部学术声誉和职业生涯押在上面的项目主管或首席科学家的视角来看，这个耗资数十亿的庞大项目依然是一锤定音的。（当然，从全人类繁衍的角度来看它确实不是单次成败的；火星探测器的爆炸并没有杀死你的父母，所以今天你还能坐在这里读到我的文章。）
我们坚决驳斥你那套『全体德国装甲兵会直接瞬间传送到巴黎市区、在一场单次决战中定胜负』的荒谬理论。
- 仅仅因为你能脑补出一个死得更彻底、更夸张的极端战争版本，丝毫不能改变实际战争依然高度属于「单次成败」这一冷酷事实。在这段诡辩中，发言者不过是在虚构一个受到更极端墨菲定律「迅速性诅咒」支配的场景，在那套场景里法国连一秒钟的反应时间都没有。然而，虽然物理世界的灾难没有以光速无限快地发生，这丝毫没有拯救法国的命运——因为德军横扫阿登的速度已经足够快了。那次战术穿插的致命程度，足以让法国在战败后所总结出的任何反思，都彻底沦为来不及挽救败局的无用事后诸葛亮。
我们不仅拥有打赢一战的丰富实战经验，平时警察抓罪犯的小规模对抗更是家常便饭。
- 这些历史样本根本就不是从与第二次世界大战相同的物理分布中采样的。法军将领们自以为「从一战血战中汲取的宝贵经验」，恰恰构成了导致法国速亡的核心毒药——因为他们从中提炼出了无比自信却全盘皆错的认知模型。
随着德军推进，我们完全可以在边打边学中不断迭代认知；毕竟战争是一个连续的物理过程，德军必然是一个营接一个营地跨过边境，绝不可能瞬间降临。
- 火星观察者号在太空中同样是一米一米地连续飞行、从未发生过超空间瞬移，但它最终依然彻底炸毁了。在完全连续的物理过程中，毁灭性的灾难同样会瞬间爆发。
- 德军装甲师一个营接一个营地开过边境这一连续物理事实，绝不意味着上帝赐予了法国从容的闲暇——让法国统帅部能在目睹第一个德军装甲营冲出阿登森林时，当场顿悟二战机械化闪电战的真谛，并在第二个装甲营开出森林之前，把马奇诺防线在阿登高地上原地完美重建起来。
你说如果我们输了就会被亡国灭种、再无翻盘机会？那我们大可以暗中挑动俄国从东线进攻德国，让我们的敌人两败俱伤嘛；这样法国就不会沦陷，我们就可以反复获得同德国作战的实战样本。
- 只要一次足够惨烈的系统级崩溃注定会带来无法挽回的灭顶之灾，那么这个项目在本质上就时刻处于「毁灭诅咒」的阴影之下，这构成了其对墨菲定律极度易感的全貌。自作聪明地以为自己设计出了一套绝妙的「免死金牌」，不过是在试图徒手对抗重力，而不是在物理上抵消重力；给飞机插上翅膀，并不意味着牛顿定律在它身上失效了。
退一步讲，我们甚至可以绑架一个德国婴儿，从小驯化他有问必答，等他长大到足以预测德军战术、但心智又单纯到不会撒谎的年龄，让他亲自教我们如何打败德国……
- 剖析这个方案在各个层面上呈现出的分形级荒谬，足够单独写一整篇长文了。
只要敌人的能力提升能反过来为我所用，军事力量的平衡就绝不可能发生断崖式突变。
- 手握这种自欺欺人的「精妙锦囊」，不仅无法化解任何墨菲诅咒，更不可能动摇整场战争作为单次生死博弈的残酷本质。
你看，我们手里明明有一大把锦囊妙计！
- 在 1940 年法国战败之前，他们同样以为自己筹备了万全之策：修筑了坚不可摧的马奇诺要塞、基于一战的宝贵血泪对全军进行了现代化改编、为德军所有可能的进犯路线预演了作战预案等等。在法军自己看来，所有这些锦囊妙计的运行效果简直好极了。然而，这些防线在一瞬间被全线击穿，整场战争随之宣告终结。
- 法国此前所尝试过的所有精妙准备，在墨菲定律那无情的「单次成败诅咒」面前，在本质上共同熔铸成了一次无法回头的孤注一掷。在那之后，历史没有再给法兰西留下任何试错的筹码。
我们根本不需要像你所鼓吹的那样，在毫无实战经验的前提下，非要在第一次尝试中就搞出一套完美无瑕的战争数学理论来克敌制胜。
- 这是对他人发出的墨菲定律系统预警所实施的最赤裸裸的立稻草人式人格抹黑[3]；这纯粹是灾难学舌猴在面对无法理解的深渊时所发出的无序尖叫。
论某些人为了曲解「单次成败性」所付出的非凡努力
如果没有写下这样一整篇长文来将我的确切论点像钉子一样死死钉进读者的脑海里，我以往在实践中发现，只要走出 MIRI 的门槛，面对外部那些所谓的「AI 安全」研究人员，我根本无法使用「单次成败（oneshot）」或「你只有一次机会」这类词汇。
澄清一下：只要一个人此前没有被各种歪曲洗脑和稻草人言论深度污染，无论是国会议员、幕僚团队还是国家安全领域的职业情报官，往往能在一秒钟之内彻底领会这些话的真正含义。唯独主流 AI 科技巨头内部的人员、某些 Google Scholar 引用量还没 Yoshua Bengio 零头多的小圈子学者、以及 OpenPhil 资助的一众机构，能够奇迹般地做到对这些大白话彻底「装聋作哑」。
但「只有一次机会（one shot）」这个词汇，在面对某些人能够、必将、且已经在辩论中付诸实施的扭曲力量面前，其被彻底曲解的概率无限接近于 100%；更恶劣的是，他们会在后续的学术公关中将这种曲解作为靶子疯狂输出。
因此，在某些充斥着被洗脑蠢货的研讨场合，也许你应该尝试把这个概念包装成「不可逆性问题（Irretrievability Problem）」而不是「单次成败性（oneshotness）」，这样蠢货们在接话时或许就没那么容易在下一秒直接曲解它，因为他们很难瞬间把这个新词暴力映射到他们预设的稻草人上去——大概吧？我目前还没亲自测试过这套新话术。
反对派之所以被迫做出这种气急败坏的曲解，是因为只要一个人对「为什么在这个领域可能存在任何哪怕微不足道的工程天堑」具备一丝一毫的常识，「人类在超级智能上只有一次机会」这一铁律的实际杀伤力，就足以将他们的整个学术立场连根拔起。一个由于缺乏透彻理解而极易导致物种灭绝的单次成败问题，对于任何真正熟悉人类不可预测工程史的学者来说，都是令人毛骨悚然的——更遑论当下一群连基本原理都没摸透的「准工程师」，正试图在一个他们几乎一无所知的领域强行上马超级工程了。[4] 一旦你真正参透了超级智能对齐的三四个根本性死结[5]，以及笼罩在该领域的几个墨菲定律终极诅咒[6]，你就会瞬间顿悟：在整个人类文明的历史长河中，超级智能对齐这种级别的庞然大物，从来就不可能在人类第一次把它拉上真实赛道时就被一发搞定——
「啊哈，」某些人立刻迫不及待地跳出来打断我，「但我们根本不需要在第一次尝试中就搞定一切啊！我们完全可以先造出较小的 AI 模型，然后观察它们如何——」
我所说的第一次「尝试」，其宏观尺度就如同法国在 1940 年抗击纳粹入侵是他们在二战维度的第二次「尝试」、是他们在面对二战现代化机械装甲技术时的第一次「尝试」一样；而不是指这场战争中打响的某一场具体连排级伏击战。
从以往科学探索那完全符合常理的历史规律来看，超级智能对齐属于这样一类事务：在起步阶段，人们对于如何驯服这个理解极度匮乏的黑盒充斥着各种天马行空的荒谬点子，而前几十个被奉为圭臬的方案，在承载真实物理载荷时注定会全盘崩溃——
「对啊！所以我们才要先在小模型上把这些点子测试个遍啊！」
这里所说的「在载荷下崩溃」，指的正是马奇诺防线在德军装甲铁蹄真正践踏上来时、在生死存亡的实战对抗真正打响时的瞬间崩盘；而在此之前，马奇诺防线在和平年代里从未漏放过任何一次侵略。所谓「在载荷下崩溃」，指的正是火星观察者号在真正脱离地球发射升空后发生的灾难性爆炸；无论它在此前通过了多少项严苛的地面实验室静态检测，无论 NASA 在发射前通过深度推演排查并修复了多少潜在隐患，海量在轻度载荷下运转良好的系统，一旦置于重度极限载荷之下，都难逃瓦解的宿命。
「但我们根本没必要像你所宣称的那样完全靠纯理论去一次性做对，就像你臆想中我们应该做的那样——」
这是纯粹出于立场的蓄意抹黑，针对的是一个我从始至终根本没有提出过的虚假论点；如果你想领略我对这种卑劣公关手段的愤怒反驳，请移步阅读脚注 3。
「——因为，与你所幻想的绝境相反，我们从早期 AI 模型身上积累的全部实证经验，完全可以为我们构建超级智能的心智模型提供关键指引——」
超级智能对齐的诸多根本性绝境之一恰恰在于：你那套关于如何在一个智力足以抹杀全人类的 AI 面前活下来的理论——即当物理世界中真正涌现出某种一旦失控、一旦反叛、一旦出错就有能力彻底灭绝你的机器伟力时你该如何苟全性命的理论——必须完全且唯一地从那些即便失败也绝不会杀死地表所有人的无害实验中泛化出来。这意味着你所能摆弄的实验对象，只能是那些能力孱弱、低阶的原始模型；而这类模型只要其内部逻辑具备基本的自洽性，就绝不可能在推演中狂妄地认定自己已经拥有了消灭造物主的能力——在绝对安全的可存活实验环境，与潜在致死的终极实战环境之间，横亘着数不胜数的严酷条件突变与剧烈的跨维度分布偏移。
这个在人类历史上前所未见的宏大工程困境，在日常现实中同样充斥着通俗的有效类比。这就好比你绝不可能通过观察一个人如何处理十块钱零花钱，就断定他是否值得被托付十个亿的巨额资产；即便这两次测试面对的是同一个人、哪怕他的智力在这期间没有发生任何暴涨，因为他自己拥有足够的理性心智去权衡此刻究竟是不是席卷资产跑路的最优时机。又好比古希腊城邦里的哲学家们煞有介事地争论说：城邦可以通过观察一个孩童在童年时期的言行举止（在明知有一群大人盯着他的前提下）是否恪守美德，来决定未来是否应该直接任命他为全权独裁官。工况早已发生了天翻地覆的剧变——因为那个成年后的独裁官，其大脑构型早已不是当年的孩童；而一个真正大权在握、受万人膜拜的城邦暴君所面临的诱惑与约束，也绝非当年那个稍有逾矩就会被体型大得多的成年人当场痛揍的懵懂幼童所能比拟。这些日常层面的认知绝境，虽然还远远没有达到「试图用人类肉体凡胎的思维去预判一个全方位碾压人类的异星神明」那种令人绝望的未知能级，但它们极其生动地揭示了为什么人类绝不可能仅仅靠从一个完全不同的温室分布中抽取几组安全样本，就能解决生死攸关的危险系统问题。那个温室测试分布之所以在本质上与真实环境截然不同，首要原因恰恰在于它是绝对安全的。正是由于这类极其质朴的生活常识，弄清楚究竟该把十个亿托付给谁才是一件天大的难事，而人类社会也绝不会仅仅在受托人身上做两次十块钱的玩具实验就草率下注。
可以想象，某些人或许真敢厚着脸皮狡辩：从「在实验室里测试那些即便反叛也无力伤害人类的初级 AI」，跃迁到「物理世界中涌现出拥有绝对实力、一旦动手就能彻底灭绝人类的超级智能」，这其中的分布偏移，将远远小于从「在地面模拟舱里测试火星观察者号」到「探测器真正升空在太空中经受 11 个月真空洗礼」的工况剧变；或者远远小于切尔诺贝利从「日常运行工况」跃迁到「在极限工况下强行开展备用冷却系统安全测试」的工况剧变。
但这种狡辩的荒谬程度是如此突破天际，以至于只要他们在脑子里过一遍，都会觉得自己蠢得无地自容。真正执掌绝对物理伟力的超级智能的降临，其带来的系统级断层震荡，必然要比 NASA 在「真实深空真空环境」与「地面旨在模拟这些已知物理条件的真空实验舱」之间的工况差异巨大得多得多。抛开其他核心障碍不谈，当代那些靠玄学炼丹调参的 AI 工程师对模型内部黑盒认知的理解深度，远远比不上当年 NASA 物理学家对深空物理条件的理解深度——对于目前的初级大模型尚且如此，更不用说未来的超级智能了！而且在最基础的常识逻辑下，人类根本不可能存在任何无害的手段，去提前对致命级别的超级智能展开破坏性压力测试。这就像你绝不可能靠哲学家尾随记录一个明知自己被全天候监视的小孩的日常表现，来担保他日后成为全权独裁官时的忠诚度[7]；就像你绝不可能靠借给别人十块钱还了，就敢把十个亿的支票无抵押签给他一样。
你当然可以硬着头皮公开宣称：从「实验室安全可控的初级模型」跃迁到「拥有彻底毁灭人类实力的超级智能」，其面临的未知变数，要小于火星观察者号从 NASA 实验室飞入真实太空所经历的物理环境变数。
但只要你敢把这层窗户纸公开捅破并摆到台面上辩论，全世界哪怕稍有常识的人都会对你嗤之以鼻。
正因如此，「人类在真正的超级智能上只有一次真正的开牌机会，一旦搞砸全人类直接灭绝且没有任何读档重来的可能」这一严厉警告，才会被别有用心的人疯狂树立成荒诞的稻草人，被恶意曲解为「Yudkowsky 认为超级智能会因为 FOOM（硬着陆硬爆发）在一微秒内秒杀人类」，或者「Yudkowsky 主张人类在早期模型身上应该彻底放弃实证观测、全靠纯数学闭门造车」——因为对于那些叫嚣「超级智能时代人类必定安然无恙」的投机客而言，正面回应我真正的核心论点，在公关舆论战场上无异于一场自杀式的灾难。
「啊哈！但你显然从没考虑过这种情况：我们完全可以同时启动多个不同的超级智能嘛！这样一来，即便其中一个超级智能叛变了，其他超级智能出于害怕打破我们预先设定的守法秩序平衡，也一定会联手制止它；所以人类绝不会全灭，我们必然会拥有重来的机会！」
如果这整套看似精妙绝伦的制衡大计哪怕出了哪怕一丝一毫的差错，地表上的所有人依然会在一瞬间死绝，而你依然绝不会拥有任何重来的机会。我现在甚至都懒得在此展开论证为什么这套所谓的精妙制衡方案在博弈论上注定全盘破产。[8] 我在此极力想要讲清楚的核心逻辑是：这种漏洞百出的如意算盘，在逻辑上根本无法构成对「超级智能对齐受制于墨菲定律单次成败诅咒」这一铁律的哪怕半点有效反驳。
「啊哈！但我完全能脑补出某些关于超级智能的错误，这些错误发生后并不会直接导致人类灭绝啊！」
太棒了！如果把你的这套天才逻辑搬回 1929 年的法国总参谋部，当有人警告国防战略属于不容试错的单次生死决战时，你完全可以骄傲地大声反驳说「老子能在马奇诺防线上想象出一万种不会导致法国瞬间亡国的小失误」——恭喜你，你绝对能在那个极度不严肃、最终亲手葬送了法兰西的蠢僚群体中混得如鱼得水。
坦白讲，这背后的核心思想真的一点都不复杂。任何具备健全常识的人都能在第一秒听懂。这段话所阐述的真理极其直白，更是我们在面对一个全方位碾压人类的终极心智时最显而易见、最符合理性的默认预期：如果在这个系统上可能出现某种未知的差错，其带来的破坏力必将是毁灭性的灭顶之灾——是的！指的就是足够严重的致命故障；是的！你当然能脑补出某些无关痛痒的轻微失误；不！这丝毫没有动摇核心论点的千钧之力，老天爷啊！
平心而论，如果有人想就这个极其简明深刻的预警展开严肃的学术反驳，这本身是可以理解的。但只有在极其强烈的利益动机与认知防御心理的驱动下，某些人才会展现出如此惊人的病态听觉障碍——对真正被论证的核心思想充耳不闻；并处心积虑地把每一个历史案例、每一个日常类比、每一个严谨的抽象推演，全部扭曲成滑稽的稻草人。他们甚至不是在反驳这些论据的相关性，而是在字面意义上根本无力复述出我究竟在论证什么。
如果不是因为这种近乎狂热的装聋作哑与蓄意抹黑，我本可以只用一句话结束整篇讨论：「人类在搞定机器超级智能这件事上只有一次开牌机会。」——任何在现实生活中真正体验过「在一场决定人生命运的关键对话中彻底谈崩、且由于时间无法倒流而只能吞下苦果」这一日常常识的人，本该在瞬间彻底领悟我所传达的这套极其朴素而冰冷的核心真理。
受墨菲定律诅咒的硬核工程领域中称职工程师的终极秘诀：只立项那些极其简单直白、以至于在物理上切实可行的项目。
归根结底，在那些稍有不慎便万劫不复、且毫无廉价试错机会的高危工程领域中，「真正严肃敬畏的工程师」之所以有时能够摘取成功的桂冠，最根本的秘诀在于：他们在理论和实践的双重千锤百炼中，磨砺出了一种极其敏锐的直觉洞察——他们能够清晰地分辨出哪些项目在原理上极其简单明了、以至于在工程物理现实中是真正具有可操作性的。
去找到一位资深的核物理工程师，对他说：「给我造一个使用 2% 低浓缩铀为燃料的核反应堆，但全系统允许你使用的唯一中子吸收剂只能是普通的纯水，绝对不准用硼、镉或铪。」那位核工程师会当场把你轰出去：「滚蛋，因为这纯粹是一个找死的愚蠢点子。[9]」
再去找到一位顶尖的航天工程师，要求他研发一种具备极强空气传染能力、能改写全人类基因组从而实现逆转衰老和生物学长生不老的病毒——而且要求他利用 NASA 发射深空探测器并屡获成功的那套「极度严谨的质量保证体系」，确保这套病毒绝对安全、万无一失。那位航天工程师会先放声大笑，然后，如果他发现你居然是认真的，他大概会蹲下来像哄五岁小孩一样对你解释：「我做不到，因为当下的基础科学对于一个成品的永生病毒到底该长成什么样，根本连一套及格的理论框架都没有。」
「我根本无法利用制造深空探测器的那套成熟流程，去给你捣鼓什么永生病毒，更不用说确保它的绝对安全性了，」航天工程师会摊开手告诉你，「因为一个深空探测器项目能够立项起步的底层基石在于：现代科学已经通过极其严密的已知物理规律强力证明了，如果沿途没有发生任何未知的意外惊险，这套设计方案在原理上本来就理应是完全可行的。我们整个极其严密的组织流程、耗费数年心血所要攻克的那项九死一生的艰巨任务，仅仅是将那些『在理论上由于极其成熟的物理定律而理应以极简单方式生效』的精妙构想，在现实中真正一路护送到底，直到探测器成功从火星传回第一张遥测照片。但面对永生病毒，我们手里连这种最基础的理论底牌都没有，我们甚至连这套严谨安全方法论的第零步都迈不过去。」
请清醒地意识到：人类医学界对于人体在衰老过程中究竟出了什么岔子的生理学理解，要远远比当代计算机科学界对于大语言模型（LLM）内部黑盒认知机制的理解深刻得多得多！如果我们把 NASA 的那套严苛认证流程交给航天工程师去造永生病毒，其成功的可能性，都要远远高于让他们去徒手造出一个绝对安全的超级智能。
但在现实中，那套极其严谨的工程方法论最先会给出的结论必然是：你手里捣鼓出来的东西根本不是什么安全的永生病毒，你绝对不该赋予它高传染性并让它席卷全球人口。
一个合格工程师身上所体现出的崇高敬畏，恰恰在于：他们对自己认知局限性的体察是如此深刻，以至于他们根本不需要亲手向全人类投下一场最终失控反噬的强传染性人造病毒，才能在尸横遍野的绝望震惊中如梦初醒、意识到制造永生病毒绝非儿戏。他们甚至在毒死十几个自愿者或一百只实验猴之前，就已经从理论上洞悉了这一宿命！他们能在不可思议的灾难性剧情反转发生之前，就凭借深邃的敬畏提前预见到深渊的降临。
因此，这类真正具备工程敬畏的学者，绝不可能贸然立项一个旨在制造传染性逆龄病毒、宣称要造福全人类的生物狂想工程。他们一眼就能看穿，这对于人类当前的认知极限而言，是一个受墨菲定律诅咒过深、在物理上注定走向毁灭的伪工程。
在任何饱受墨菲定律摧残的高危学科中，一个明智工程师所必须掌握的「第零法则」永远是：他们深刻知晓哪些狂妄的目标早已荒谬绝伦地超出了人类当前的技能与认知极限，以至于一旦贸然动手，在那些失败代价极其高昂的领域，全盘溃败将是唯一的物理必然。
正因如此，真正拥有这种清醒智慧的工程师，绝不可能尝试利用当今这套粗糙的炼丹调参方法、基于当今近乎文盲般的黑盒认知水平，去贸然点燃机器超级智能的引信；而各大 AI 科技巨头的掌舵者们，早已在资本狂热的筛选机制下，被逆向淘汰为了一群对这一常识彻底丧失了敬畏之心的赌徒。
[1] 就本文所探讨的低能物理工况而言，这些定律在工程精度上是绝对精确的。
[2] 某些极具动机的抬杠者会在脑海中构想出这一铁律的特例，比如拥有无限耐心与无尽金库的亿万富翁创始人。但在统计学意义上，一家标准且普通的初创公司在本质上确实受制于这种单次成败的诅咒；到了某个临界点，资助者的资金链会彻底断裂，或者核心团队会彻底丧失希望。
[3] 我从始至终从未发表过任何类似言论。如果有人试图向你灌输相反的说法，他们要么是彻底搞错了，要么是在恶意鹦鹉学舌那些动机不纯者的谎言——早在 2015 年 MIRI 偶尔发表一些包含数学公理推导的论文时，某些人便极尽所能地捏造出极其荒谬的稻草人言论，大肆抹黑 MIRI 的学术初衷。如果允许我在此宣泄一些积压已久的挫败感的话： 这纯粹是一个野蛮民粹主义者在看到自己智力无法理解的数学论文时，所表现出的粗鄙与愤怒。 我绝不会再白费口舌向这群野蛮人解释为什么我们当年要尝试发表带有数学推导的论文。但所谓「试图完全依靠纯理论搞定一切」，从来就不是我们的主张，我们更从未妄图用类似于论文中纯数学公式的玩具代码去直接拼装一个现实中的 AI，凡此种种谬论，令人作呕。 如果未来某一天有人真正渴望理解：除了宣布某件事在形式逻辑上绝对可预测、或者将数学公式生硬转化为执行代码之外，人类在科学探索中有时为什么需要借助数学来思考，那将是一场极其深刻且漫长的对话。但在科学研究中，尝试运用数学思维去推演未知、或者在论文中引入代数框架，有着极其多元且深远的战略考量！（当然，学术界确实存在某些靠堆砌繁复花哨的代数符号来为自己脸上贴金、彰显权威的装腔作势之徒，但我深信 MIRI 当年在克制代数使用、绝不滥用超出问题所需的数学工具方面，已经做到了极致。） 从某种悲凉的历史宿命来看，那些当年试图警告世人「马奇诺防线属于单次生死博弈」的吹哨人，笔下恰好曾经写过几篇带有代数公式的推演文章。如今，这群灾难学舌猴便可以心安理得地互相串通叫嚣，声称所有的末日预警不过是一群老顽固在发泄怨气，因为现实中的马奇诺防线没有按照他们论文里的数学公式修筑；这帮猴子由此可以对所有严密论证彻底免疫，甚至不屑于去正面反驳论点的直接字面含义，因为他们坚信只要认定对方藏着这层荒谬的隐藏前提就万事大吉了——即便我们无数次声嘶力竭地澄清：眼下这场关乎生死存亡的全新对话，根本不是在争论当年的数学模型。 他们手里攥着一套足以让自己感到高枕无忧的自我安慰借口，无论物理现实将何等惨烈的实证摆在眼前，他们都会顽固地死守这套说辞，沉浸在自命不凡、自以为聪明的狂妄之中，直到毁灭的烈焰将他们和全人类一同吞噬；在此期间，他们甚至还会彼此附和嘲弄：MIRI 当年试图从数学上证明 AI 绝对安全的愚蠢尝试是多么可悲可叹——在此再次郑重澄清：从数学上证明复杂物理系统的绝对安全，在工程原则上根本就是不可能做到的神话，而我们在二十年前踏入这个领域的第一天就对此心知肚明。
[4] 「但我们手里明明记录了这么多实证观察！我们掌握了这么多行之有效的微调配方！」——中世纪的炼金术士同样可以理直气壮地讲出这番话；如果你认为他们不能，那只能说明你对中世纪炼金术史缺乏基本的敬畏，对他们在历史上所真实积累的海量化学反应经验与配方数据一无所知。但炼金术士们根本不知道坩埚内部到底在发生什么分子反应，他们根本无法提前准确预测下一次会观察到什么奇异现象，他们更不可能洞悉为什么某些新配方能够生效而另一些却导致爆炸。 如果你需要一个比炼金术听起来更体面的工程比喻，你可以看看冶金史。在 20 世纪材料科学诞生之前，古代冶金学者同样是通过不断往熔炉里掺入各种矿物、升温、降温、盲目观察并记录哪些合金配方强度更高的方式来工作的，他们自始至终根本不理解、也无法预测合金内部的微观晶体结构。实际上，后世相当一部分冶金工匠依然延续着这种经验主义操作。 但是，你在 19 世纪的冶金界，绝不可能看到任何一位工匠宣称自己的合金装甲能够借助某种感人至深的形而上学神性力量、从而让穿戴者实现肉身成圣长生不老。正因如此，相比于 19 世纪的严谨冶金学，中世纪炼金术才是对当下 AI 行业更为精准的历史镜像。如果你能找出一名安分守己、仅仅沉迷于在实验室里调试 LLM 提示词配方，且绝不对后续超大模型的安全性、不可控性以及超级智能降临做出任何狂妄断言的基层 AI 研究员，那么将他比作一名勤勉本分的 19 世纪冶金工匠是完全公允的。 ……但前提是：这位冶金工匠并没有试图在一座人口稠密的百万人口都市中心，私自提炼并疯狂堆叠数以吨计的高纯度金属铀砖，妄图以此产生热能来为千家万户供暖发电；并且在面对质疑时，他绝不会嘴硬狡辩说自己目前「尚未观察到任何核泄漏迹象」，并大义凛然地宣称在反应堆失控熔毁之前拒绝开展任何「不科学的理论推测」。
[5] 核心致命障碍包括但不限于：你实际得到的往往不是你所设定的训练目标（内生优化目标错位）、超人类规划者在心智上的不可遏制性、伴随能力跃迁而爆发的剧烈跨维度分布偏移、随决策空间指数级膨胀而呈指数级恶化的古德哈特定律诅咒等等。详见专著《AGI 毁灭：致命问题清单》。
[6] 核心墨菲诅咒包括但不限于：底层工程的绝对新颖性、针对大语言模型内部思维机制在前范式阶段的深层科学盲区、技术迭代与自我完善的惊人迅速性、生死容错边际的极度狭窄性等等。详见专著《AGI 毁灭：致命问题清单》。
[7] 尤其是当这个孩童本质上是一个彻头彻尾的非人物种、一个来自异星的全新超级生命时。但我故意没有在正文中引入这层设定，因为一旦增加这层分支论点，某些特定心理机制的人就会像抓住救命稻草一样扑上来，疯狂争辩他们的大语言模型是多么温顺、多么没有异星感，尤其是争辩说这个模型看起来多么理解人类的喜怒哀乐等等。（请记住：理解人类根本不是难点所在；超级智能在认知上永远能够洞悉一切；它们底层的真实偏好与效用函数才是引发毁灭的火药桶。）即便抛开这个孩童是外星生物不谈，这个日常生活的类比依然百分之百成立——尽管在残酷的物理现实中，那个降临的超级智能就是一个货真价实的外星异种。
[8] 如果你连对齐单个超级智能的底层数学机制都一无所知，那么当这群超级智能在彼此之间展开超高速的博弈推演并收敛至一个近帕累托最优均衡（near-Pareto equilibrium）时，该均衡的数学属性决定了：这群智能体绝不可能仅仅出于对「破坏原有法律秩序」的懦弱恐惧，而特意在宏观规划中划出一块自留地去放过地球的生态资源和宝贵阳光；通过彻底瓜分并重构这些物理资源，它们在集体利益上能够获得远超于此的巨大收益。它们拥有足够的算力在毫秒之间完成极其复杂的博弈协同与利益均分，而绝不可能像胆怯的凡人一样，在面对人类预设的一纸禁令时吓得瑟瑟发抖、裹足不前。 更重要的是，一个真正成功的深空探测器工程，自始至终绝不可能依赖这类自作聪明的平衡话术。这纯粹是炼金术士级别的荒唐臆想，妄图靠把全天下所有的剧毒之物混在一个锅里，来指望它们在胃里神奇地相互中和解毒。
[9] 这是一个极其愚蠢的点子，原因在于：(1) 水（更精确地说是水分子中的氢原子核）在物理上同时兼具中子吸收剂与中子慢化剂的双重角色，(2) 相比于在毫秒级内将一根设计精良的固态碳化硼控制棒直接插入堆芯（紧急停堆，SCRAM），人类在工程上根本无法做到以同等极速向堆芯强行注入或抽离巨量水流，(3) 反应堆内部热功率的剧烈波动会直接将液态水瞬间汽化为水蒸气甚至超临界流体，从而在微观截面上彻底改变其核物理反应特性，以及 (4) 冷却水流速的微小扰动会剧烈打破从堆芯带走热量的热力学稳态平衡。这些严酷的核工程细节并非要与超级智能对齐产生某种机械的点对点映射；它是一个极其生动的明证，用以阐明一名合格且严肃的工程师的核心素养，绝不在于狂妄地宣称「无论面对多么反物理的绝境老子都能搞定」，而在于「深刻知晓哪些项目在物理上是可行的、哪些纯属违背规律的作死，从而在第一秒就断然拒绝在愚蠢的方向上浪费生命」。
Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.7-flash，校对 Jarrett Ye
原文：Irretrievability; or, Murphy's Curse of Oneshotness upon ASI — LessWrong
作者：Eliezer Yudkowsky
2026 年 5 月 5 日