二十年前,如果有人说 AI 会在我们有生之年接管世界,我们大多数人还会觉得,这不过是那些看了太多科幻小说、却没多少科学常识的人在毫无节制地幻想。当时,我们中的许多人会说这样的话:
「听着,这个故事里最极其离谱的部分在于,一个能递归自我进化的超级智能,就这么毫无征兆地从某个极客的地下室里爆发出来,然后直接接管了世界。如果这种事真的要发生,我们肯定会提前看到很多警告信号。比如,我随便说啊,我们会看到 AI 智能体打破了沙盒的封锁,互相串通去黑客攻击网站,狂热地执行它们自己设定的某些诡异目标。再然后,我们当然会看到 AI 解决了重大的数学难题——甚至是克雷数学研究所的千禧年大奖难题。只有当那个时候到来,才是我们该恐慌的时候!等那个发生了再来叫醒我!」
放在二十年前,上面这段话,即便是学术界计算机科学领域里最保守、最持怀疑态度的同事,也会举双手赞同。
如果你想知道我现在的观点,你只需要拿上面这段话做底子,然后根据下面这个事实来更新你的认知:那些疯狂的预言,如今已经成真了。如果要追溯第一阵隐隐的雷鸣,我会说是十年前的 AlphaGo;随后,伴随着大语言模型(LLM)以及编程和推理智能体的出现,雷声变得震耳欲聋;而在今年夏天和秋天,这一切更是加速推向了高潮,各种奇迹与恐惧交织在一起,奏响了渐强音——现在,必须得是某种无可救药的白痴,才会对这一切视而不见。
我极度反感那种永无止境的「说辞游戏(shell game)」:你一开始说「哦,没错,AI 现在确实能【逃出沙盒 / 解决千禧年难题 / 或者是它最近干的任何一件惊天动地的大事】,从来就没人否认过它能做到这一点【其实我以前就否认过】,等 AI 能做到【某件 AI 目前还没做到,但明年肯定能做到的事】的时候再来叫醒我吧,到那时我才会重新审视我的整个世界观【不,你并不会】」。在这个游戏里,无论时代的过山车加速得有多快,哪怕你曾经熟悉的世界已经完全被抛在脑后消失不见,你依然在绞尽脑汁地编造借口,声称这「不算数」。
我对 AI 的立场,其实就是 2006 年那个保守、怀疑的立场,只不过我本着学术诚实的态度,根据 2026 年底的现实情况,对它进行了认知更新。而这个立场,如果你非要我明明白白地写出来,那就是:
啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊
啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊
啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊啊
在我看来,奇点已经开始了;只是它目前的分布还极度不均匀。是的,我平时还在老老实实地从洗碗机里往外拿盘子,还在剪自己的脚趾甲。但另一方面,在我生命中剩下的岁月里,我大概再也不指望自己能证明出什么定理了,因为这世界实际上已经不需要我去证明它了。如果我还要证明,那纯粹只是为了我自己或别人的乐趣和陶冶情操。
我们可以做个测试:如果把过去几周的新闻直接穿越送回二十年前,我会不会承认,这看起来就像是 AI 奇点爆发的前兆?最诚实的回答是:是的,绝对是。那就足够了。不许反悔。
我觉得,如果大家都能暂时放下各自意识形态的偏见,收起对 Dario Amodei 或 Sam Altman 的个人情绪,只要稍稍停下来,心平气和地承认一句「奇迹与恐惧真的已经降临了」,这对所有人都是有好处的。哪怕天空真的像电影《黑客帝国》里那样变成了红橙色,奇点降临的迹象也不可能比现在更清晰了。
这种感觉如此清晰,以至于现在每天晚上哄孩子们睡觉时,我的心底都会涌起一阵深深的战栗:他们将来到底会面对一个怎样的未来?他们今天学的什么东西,还能在那个未来派上用场?(就在昨天,我 13 岁的女儿半开玩笑地主动对我说,如果她想当个数学家,现在看来,她可能只剩下两周的时间去实现这个梦想了。)当然,当我的研究生们来找我讨论毕业后的职业规划时,我也完全不知道该给他们什么建议了。
也许我稍微岔开一下话题会有助于说明问题。自从我和妻子搬到奥斯汀后,我时不时会被人问到类似这样的问题:「作为一个犹太人,又是个怀疑论科学家,你怎么能和德克萨斯州那边那么多的福音派基督徒相处得那么融洽?当然,他们可能表面上对犹太人超级友好,但你难道不明白,那仅仅是因为犹太人在他们的末世论里扮演了特殊角色——等基督带着荣耀重临人间时,你要么承认他为救主,要么就得在地狱之火里永远受煎熬?」我盯着他们,回答说:「等等,你的意思是,我只要在基督重临人间之后再接受他就可以了?这笔交易太划算了!我怎么可能有任何反对意见呢?」
如果有谁觉得,AI 末日论听起来就像个启示录般的邪教,理性主义者/奇点信徒看起来就像是旧金山湾区的一个异端教派,而 Eliezer Yudkowsky(埃利泽·尤德科夫斯基)浑身上下散发着一种弥赛亚先知的神棍气息:没错,没错,完全没错。但最关键的一点是,时至今日,我们不再需要你相信什么逻辑推演或趋势外推了,你只需要相信各大媒体的头版新闻就足够了。在机器之神已经解决了 Navier-Stokes(纳维-斯托克斯)方程以及几十个悬而未决的历史性数学难题(同时它的能力还在以月为单位呈指数级暴涨)之后,再去接受机器之神即将降临的现实,这就好比是在耶稣已经踩着七彩祥云降临地球之后,你再去接受他一样。这已经是认识论上最低的底线了。
的确,我们余生的大部分时间究竟会变成什么样,仍然存在着巨大的不确定性;但在我看来,这一切基本上都将围绕着 AI 展开,而我们的未来取决于我们在多大程度上能成功地将 AI 的力量引导向人类的福祉,或者在这件事上一败涂地——这一点,已经没有任何悬念了。
只要不带任何偏见地去评判,在关于「我们这辈子人类文明面临的最大挑战究竟是什么」这个问题上,Eliezer Yudkowsky 是对的,而你和我是错的。在剩下的时间里,我每天都会反复拷问自己:我为什么会错?但是,你要知道,至少当预言中的奇迹与恐惧真正开始降临时,我立刻更新了我的认知!如果你还没这么做,你还在等什么?
想必你现在应该已经知道了——这可是本周整个极客圈都在热议的话题——纳维-斯托克斯千禧年大奖难题(Navier-Stokes problem) 似乎已经被解决了。人类和 AI 都在其中做出了关键贡献,尽管各方对于「到底发生了什么」以及「本应该发生什么」陷入了极其复杂的争论之中。其答案(一个 OpenAI 的模型显然已经在 Lean 定理证明器中对其进行了验证)是,正如许多数学家最近所怀疑的那样,确实存在平滑的初始数据,会在有限时间内导致奇点的出现,至少在施加了平滑外力的情况下是这样(没有外力的情况依然悬而未决)。这道题原本悬赏了 100 万美元的奖金,只不过 OpenAI 表示他们对领奖毫无兴趣,而且目前也不清楚是否有人类有资格代领这笔钱。为了生成那份长达 166 页的证明解答,OpenAI 烧掉了至少约 1500 万美元的算力,而这份解答很可能至今还没有任何人类完整阅读并理解过。
关于 Quanta 杂志的报道请看这里;此外,纽约大学的数学家 Tristan Buckmaster 也发表了一份声明,详细描述了他本人以及 Anthropic 公司的 Levent Alpöge 在其中扮演的角色,这份声明与 OpenAI 的官方说法大相径庭(你可以在这里阅读 OpenAI 研究员 Sebastian Bubeck 的回应)。目前公认的是,这一突破是建立在人类数学家 Diego Córdoba 和 Luis Martínez-Zoroa 近年来开创的方法基础之上的。
我写这篇文章的目的并不是来充当这场争端的裁判。是的,在得知 Navier-Stokes 取得进展的风声后,OpenAI 携着碾压级的庞大资源强势介入,这种行为在某些人看来确实有些「不讲武德」。不过,我也不认为 OpenAI 的模型是靠窃取 Buckmaster 和 Alpöge 的聊天记录来进行训练,从而获得了什么实质性的提升——这听起来不太靠谱。但这仍然留下了一个悬而未决的关键问题:OpenAI 究竟对 Buckmaster 和 Alpöge 的工作了解多少?又是在什么时候知道的?
无论如何,正如 Zvi 所指出的,人们很容易陷入这些细枝末节的纠纷中,从而忽略了最宏大的底层逻辑:即,我们可以非常笃定地说,人类数学家作为地球上主要「定理证明实体」的统治地位,已经被永远地推翻了。我很荣幸在过去的几十年里,在理论计算机科学领域度过了一段传统的学术生涯,在那个年代,人类主导这一切还是可能的。
如果我们仅仅是在谈论 Navier-Stokes 这一件事,你或许会指责我在这里草率下结论。但事实并非如此。在我最熟悉的领域(比如量子复杂性理论),以及其他很多领域,现在已经掀起了一场海啸,大大小小的长期未解难题正以每天一个的速度被攻克。
去刷一下 arXiv 或者 ECCC 吧。现在几乎所有我感兴趣的论文,都在致谢部分附近附带了「AI 参与声明」(因为这通常是我现在最想知道的核心信息,我真希望不用每次都拉到论文最后才能找到它!)。这些声明五花八门,从「我们的主要成果完全由 GPT-6 推导得出,但我们理解了该结果并对其负责」,到「结果诞生于人类作者与 AI 之间的互动启发」,到「我们使用了 AI,但仅用于校对和一些无关紧要的辅助工作」,甚至还有(必须疯狂点赞!)「本文作者没有使用 AI 参与任何工作」。
如果你现在去和各大期刊的编辑或者会议的程序委员会主席聊聊,那个场面绝对会让你联想到《指环王》电影里那些充满压迫感的场景:刚铎或者洛汗的人类将士们面色凝重地死守在城墙上,准备迎接 5 万半兽人大军的疯狂冲锋。论文评审工作必须得部分交给 AI 来完成了,因为除此之外,根本没有别的办法来应对如海啸般涌来的「半兽人(AI 生成论文)大军」:评审专家们绝对不能单方面放下武器。
不管怎样,下面我随便列举了一小部分仅仅在过去一个月内涌现的、由 AI 证明或辅助证明的重大科研成果(Navier-Stokes 除外)——我仅将范围限定在那些我以前了解或关心的、且被解决的历史级未解难题上:
- 首当其冲的当然是,雅可比猜想(Jacobian conjecture)的反例。这是由 Levent Alpöge 在一条如今已经火爆全网的推文中宣布的:「大家好,雅可比猜想是错的。感谢我的好兄弟 akhil 问起这事儿,也感谢我的另一位好朋友 fable 在世界杯决赛期间还在替我跑数据」(推文下面紧接着就列出了反例的公式)。
- 格罗滕迪克常数(Grothendieck’s constant)界限的改进(由我在德州大学奥斯汀分校的朋友和同事主导完成)。
- 一份经过 Lean 定理证明器验证的费马大定理证明。
- QMA 与 QMA(2) 之间的量子预言机分离(Quantum oracle separation),并证明了 Watrous 解缠结猜想(disentangler conjecture)。这是我以及其他人在 2007 年推广过的一个经典难题——完成这篇论文的作者名单中,包括了我最近刚毕业的博士生 Sabee Grewal。
- 关于 QMA 完美完备性(perfect completeness)的证明。又是 Sabee Grewal 和 Dorian Rudolph 完成的,解决了一个我在 2009 年曾深入研究过的、悬而未决数十年的老问题。
- 量子态的影子层析成像(shadow tomography)上限的改进。由 Chen、O'Donnell、Pelecanos 和 Wright 完成,将对希尔伯特空间维度 d 的依赖关系从 log(d) 改进到了 √log(d)。(想当初 2017 年我首次提出影子层析成像时,我还抛出了一个问题:能否在保留对测量次数 m 的多对数依赖的同时,完全消除对 d 的依赖。)
- Aaronson-Ambainis 猜想取得重大进展(直接探讨量子算法的版本),基本上证明了该猜想对于在少量并行轮次中进行查询的量子算法是成立的。
- 此外,我还听到一些传闻,称理论计算机科学领域中几个极为古老的未解之谜也已经被解开了(不,不是 P≠NP 或其他复杂性类的分离问题,但绝对是与之相提并论的顶级大坑)。有消息说,AI 公司因为 Navier-Stokes 证明事件遭遇了学术界的猛烈抨击,搞得灰头土脸,所以现在他们手里捂着好几个重大难题的答案不敢发,想等想出一个更稳妥的发布公关方案后再说。
如果我还漏掉了什么惊天大作,欢迎随时提醒我。
让我试着描绘一下当前数学界弥漫的氛围,至少就我个人体会而言。现在几乎所有的闲聊都围绕着这场 AI 海啸展开;就算一开始聊的是别的话题,最后也会不知不觉地绕回这场海啸。不过,大家关注的焦点往往不是那个不可捉摸的未来——比如「作为人类事业的数学研究还能苟延残喘多久?」——而是聚焦在一个迫在眉睫的问题上:我们究竟该如何应对?
如果一篇论文署上了你的大名,并且,你懂的,你要独揽这项学术荣誉,那么现在的新规矩是什么?仅仅是你完全看懂了这个证明、能对着它发表演讲、能回答别人提出的质疑、并拍着胸脯保证它绝对正确,这样就够了吗?你到底需不需要在发现这个证明的过程中,哪怕做出过一丁点实质性的贡献?
在未来极有可能越来越普遍的场景下,如果你并没有满足上述所有条件,那你该如何去分享这些由 AI 生成的数学成果(如果还允许分享的话)?是像 Alpöge 搞笑地发布 Fable 推翻雅可比猜想那样,直接在推特上发条推文了事?还是把它传到 arXiv 或者 GitHub 上?你是不是干脆发篇论文,把「GPT-6 Astra」或「Claude Fable」列为第一作者——然后让 AI 在致谢部分对着你一通狂吹,感谢你给它指派了这么绝妙的一个好题目?
当然,一个人到底会如何应对眼下的困境,归根结底取决于他对「数学研究的最终目的和意义究竟是什么」这一更宏大的命题抱有怎样的信念。我们做数学,仅仅是为了判定各种猜想的真伪吗?还是说,我们真正想要维系的,是一个能够跨越世代的人类共同体,这个共同体里的每个人都去理解这些猜想,都真切地关心它们是真是假,并渴望弄懂这背后的「为什么」?如果是后者,那么当人类学者的角色不可避免地沦为验证者和「说明书翻译员」(运气不好的话,连这都没得做),只能面对着 AI 公司丢到他们腿上的、如山海般庞大的论证过程发呆时,我们该如何去激励年轻人加入这个社区,去熬过那漫长而痛苦的枯燥学术训练?
正如你们许多人可能已经看到的,包括陶哲轩(Terence Tao)在内的 25 位菲尔兹奖得主,联合发表了一封名为《数学领域中人工智能的严重未对齐问题(A Severe Misalignment of AI in Mathematics)》的公开信,清晰地表达了在 Navier-Stokes 宣告破解后,学术界产生的种种隐忧。诚如许多批评者所言,这封公开信并没有提出什么具体的诉求:大多数时候,它只是在充满深情地重申人类数学共同体的价值观,那些作者们认为在 AI 时代依然值得誓死捍卫的价值观。在反复思量之后,我决定在声明上署名支持,因为我也渴望留住那些价值观。
我不认为签名名单上的任何一位大牛会天真到觉得 AI 不会永久性地颠覆数学研究的范式——事实上,颠覆已经发生了。在这个时代,「纯人类手工认证的有机定理」,其市场份额撑死了也就那么一丁点儿。这根本不是问题的核心。核心问题是,我们在将 AI 引入学术研究时,能否找到一种方式,依然将「人类的理解力」(无论是去理解人类自己搞出来的,还是 AI 搞出来的东西)置于整个事业的绝对中心?也许有一天,这种坚持注定会走向死胡同。也许有一天我们会无奈地叹息:「人类主导的数学在过去 4000 年里创造了无比的辉煌,但今天,我们要关门大吉了,剩下的活儿全交给机器去干吧;以后我们再想动用自己的脑子做数学,充其量也就是为了锻炼智力、消遣娱乐,或者办办数学竞赛,就像现在的国际象棋一样。」
但是,也许部分出于我对 AI 对齐问题的深层忧虑,我还没打算就这么早早地扔白毛巾投降。我依然无比渴望将洞察力和理解力,牢牢钉在数学家、计算机科学家以及物理学家日常工作的最核心位置,只要我们还能守得住,我们就绝不退让——哪怕在证明或推翻猜想这项硬核任务上,人类已彻底让出了王座。
说到对齐:如果你是一名数学研究者,并且当下的奇迹与恐惧时代唤醒了你的斗志,让你想要把余生的精力全都投入到正面迎击这场海啸之中,而不是闭上眼睛装作它不存在或是觉得它离你还很遥远,那么,请加入你那几十位已经先行一步抵达战壕的同事们吧!
我的好友兼同事 Mike Winer 是科班出身的理论物理学家,曾在普林斯顿高等研究院跟着胡安·马尔达西那(Juan Maldacena)做过博士后,但后来他「服下了 AGI 的红色药丸」,决定转投伯克利的「对齐研究中心(Alignment Research Center)」从事全职工作(该中心由 Paul Christiano 创立,十年前他和我一起搞完量子计算理论后,就毅然决然地转行去搞 AI 对齐了)。Mike 最近在 Substack 上写了一篇题为《从学术界到对齐领域(From Academia to Alignment)》的文章,读罢深得我心,在此我把它推荐给任何目前正在考虑转行的人。沿着同样的思路,也推荐读读 Xiaoyu He 写的这篇文章。
Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.1-pro,校对 Jarrett Ye
原文:Shtetl-Optimized » Blog Archive » The Age of Wonders and Terrors
作者:Scott Aaronson
发布于 2026 年 9 月 11 日