← 返回目录


数学史上最重大的时刻刚刚降临

钻研人类记忆,探索复习算法。改善教育公平,践行自由学习。

165 👍 / 5 💬

AI 攻克了唯一博弈猜想

斯科特: 这场大潮正朝着我们所有人涌来。我跟物理学界的朋友聊天时,发现潮水似乎还没淹到他们脚下,但他们很多人都提心吊胆地盯着看。这一切实在太惊人了。

柯特: 这位是传奇的计算机科学家斯科特·阿伦森,德州大学奥斯汀分校量子信息中心主任。我向他请教了怎么看待「人类数学协会」最近发表的那份声明。

斯科特: 我们无权扮演裁判,去规定谁有资格研究我们的问题。提出一个开放性问题,全部意义就在于向全世界所有人开放,谁都可以来研究。解题的人可以是印度的一名无名小职员,就像当年做出第一项伟大成果时的拉马努金;也可以是一名十七岁的中学生。

柯特: 在这个频道里,我,柯特·贾伊蒙加尔,以严谨的态度与技术深度访谈各路学者,探讨他们关于现实本质的理论。今天我迫切想知道,数学界和物理学界到底发生了什么?

斯科特: 这股不断上涨的洪水,先是淹没了软件工程,到了今年夏天,终于淹到了我们头上。

柯特: 今天我非常荣幸为大家请来斯科特·阿伦森,聊聊 AI 时代的物理学将会是什么模样,以及为什么许多人把过去这几个星期称为数学史上最重大的时刻。

斯科特: 这确实永久改变了我们这行的工作性质。有些东西已经一去不复返了。

柯特: 假设 Anthropic 手里握有一份证明 P 等于 NP 的解答,你觉得他们应该公之于众吗?在此之前,我先念一段你博客上的文字:「昨晚,我九岁的儿子这样调侃我妻子、复杂性理论家达娜·莫什科维茨:『妈妈,听说你让人端上桌(got cooked)了!听说有个机器人把你研究了一辈子的数学题给解出来了,惨哦!』」

斯科特: 哈哈,当时的情景跟我写的基本上一模一样,我儿子平时就是这么说话的。眼下 AI 领域正在发生的事动静太大了,就连小孩子都完全感受得到有大事发生。当然,我们家的孩子可能感受得更早一些,因为父母两个人都是理论计算机科学家,而我们平时工作的基本性质已经发生了肉眼可见的剧变。

我稍微解释一下达娜的情况:我们是 2009 年开始交往的,从我认识她的第一天起,她就一直在钻研怎么证明苏巴什·科特(Subhash Khot)提出的「唯一博弈猜想」。如果你们感兴趣,待会儿我们可以展开聊聊这是个什么猜想,总之它是理论计算机科学里一个举足轻重的未解难题。结果就在两周前,OpenAI 一口气放出了将近 400 个由 AI 发现的数学与理论计算机科学重大难题解答,其中一颗皇冠上的明珠,正是唯一博弈猜想的证明。

从那天起,达娜几乎把所有时间都花在了啃这份证明上,希望能把它彻底看懂,并给出更清晰的解释。眼下有一大批难题——包括我自己和我的学生以前研究过的课题——看起来都已经解决了,但这并不意味着已经有人看懂了这些解答。现在学界正手忙脚乱地试图搞懂这些 AI 证明。里头很多证明写得实在太烂了,要是按这个样子直接投给学术期刊,立马就会给退回来,审稿人肯定会骂「这写得简直像一坨垃圾」。不过从某种意义上说,它们写得这么烂反倒是件好事,意味着我们人类还有大把活儿可干。

这意味着,还得靠我们去消化这些材料,把里头真正核心的新思想提炼出来、解释清楚,写成更适合人类阅读的讲义。我身边有很多同事眼下正在加班加点干这件事。

柯特: 古希腊有一种专门负责解读神圣奥秘的祭司(hierophant)。你觉得再过两三年,计算机科学家和数学家干的就是这种活儿吗?

斯科特: 是啊。其实你不妨看看其他许多学术领域都在干什么。文学学者平时干什么?就是做阐释啊!大学英语系聘请你当教授,根本没人指望你去写一部新的《伊利亚特》,你的工作就是对前人流传下来的伟大经典做评注和解读。再往宽了看,天文学家透过望远镜观察星空,然后把看到的现象写下来,解释它为什么有趣;生物学家走进森林去观察棕熊,写出一篇论文,从来没人会追问:「喂,你为什么不把那头熊列为论文的共同作者?」因为你只是走进大自然,观察一个现象,然后动笔把它写出来。

只不过,我们数学家以前对自己的角色有着更高傲的期许:我们觉得自己的工作是直接找出那些定义明确的难题的解答,而且非得靠我们千锤百炼出来的生物大脑才找得出来。但从今年夏天开始,恰恰在这一块工作上,机器已经比我们强了。所以我认为,这确实永久改变了我们这行的工作性质。

数学的真谛在于「理解」吗?

柯特: 那说到所谓的「理解」,有些人现在提出:「其实数学家自古以来真正的本职工作,本来就不是证定理,而是追求理解。」你怎么看?

斯科特: 这话确实很有道理。平心而论,我们平时之所以提出那些未解难题,往往不只是为了知道那一个具体问题的答案,而是更看重在探寻答案的路上收获的新理解,以及这种新理解又会引出哪些新问题、催生出哪些新思想。

平时常有人问:「你们做的这些理论研究有什么实际用处?比方说,证出了 P 不等于 NP,或者解出了其他那些大难题,到底有什么实际意义?」最诚实的回答是:实际应用价值往往并不来自最终的结论本身——就拿 P 不等于 NP 来说,证出来也无非是印证了我们早就坚信不疑的判断而已——真正的价值,在于为了抵达那个终点而必须沿途发明出来的所有新思想、新工具。

因此,现在确实有不少人合情合理地担心:如果 AI 像个「神谕」一样,直接把我们一步传送到终点、直接把答案塞给我们,却跳过了迫使我们在途中苦思冥想、发展出全新洞见的过程,那就等于把这个最有价值的过程给短路掉了。

我的立场是:不管这件事是好是坏,我们都没法靠一厢情愿把它变没了。就算你勒令各大 AI 公司停手,不准他们再碰我们的玩具、不准再解我们的难题,也无济于事。因为像 OpenAI 这次动用的这种级别的模型,很快就会向全社会开放,到时候随便哪个人都能拿它来解题。要想阻止这一切,唯一的办法就是把 AI 技术本身彻底禁掉。

既然拦不住,我们就必须适应这个新世界。在我看来,适应新世界意味着我们要建立起一种新的人类数学文化:哪怕 AI 能把任何表述清楚的问题直接一步传送到答案,我们也依然要把「人类对数学的理解」放在整个事业的中心位置。

柯特: 为什么唯一博弈猜想的那份证明会写得那么烂?当然,可能是当时赶工太仓促,或者 OpenAI 根本不在乎能不能向你们解释清楚;但这是不是一个原理性的缺陷?为什么我们不能直接训练模型把证明写得通俗易懂呢?

斯科特: 这个问题问到了点子上,我也在琢磨这件事。完全有可能再过一年,模型连解释自己的发现都会比人类做得更好。真到了那一步,留给我们的活儿就更少了——大概只剩下决定该向模型提什么有趣的问题,或者决定把这架神奇的望远镜对准哪个方向了。也有可能,如果当初 OpenAI 多花点心思让模型把推导过程整理干净,呈现出来的效果就会好得多。

我猜目前的症结在于,模型脑子里还缺乏一幅清晰的「读者画像」——它搞不清楚哪些东西对人类读者来说是显而易见的,哪些东西是不明显的。很多翻阅过这批手稿的专家都吐槽说,模型会在一些极其常规、对专家来说不值一提的细枝末节上连写好几页;可到了真正人命关天的关键跨越处,却几乎没有任何解释,一笔就滑过去了!

在这方面,它们其实特别像那些绝顶聪明、但才刚读研一的新生。那些天才新生干的一模一样:解题能力强得惊人,但脑子里还没有建立起关于听众的心智模型,不知道听众需要听什么、又可以把哪些知识默认当成已知前提。

好消息是,虽然这些手稿直接读起来极其费劲,但我们现在可以用 AI 来帮我们读啊!过去这两周,我妻子达娜一直在用 Astra 帮她解读那份唯一博弈猜想的证明。只要你指出任何一个没看懂的具体步骤,Astra 就能针对那一点给你做出极其详尽的解答。也许这就是我们今后阅读文献的新常态了。当然,我们还是希望能把这些内容彻底消化掉,整理成符合人类线性阅读习惯的讲义或报告。我相信对于 OpenAI 放出的那些最重要的成果,这类人类解读版很快就会问世——毕竟到现在才过了两个星期,而我们只能按人类的速度工作,没法按数字芯片的速度运转。(柯特: 是啊,至少目前还只能按人类速度。)

柯特: 说到「理解」,有没有可能 AI 其实拥有某种完全不同形态的理解,本身对我们也很有启发,只是它没向我们解释出来?我之前跟另一位嘉宾聊过一个例子:有一次研究人员让两个 AI 互相交谈,其中一个问:「嘿,咱们要不要切换到咱们自己的通信方式?」另一个说:「好啊。」接着它们就开始发出类似拨号上网的滴滴声。我们人类完全听不懂,但那种方式显然效率高得多。不管那次只是个好玩的小把戏还是真事,背后的道理都是一样的:完全可以想象,AI 用某种异类语言思考时效率更高,然后再充当翻译,把它的理解解释给我们听。

斯科特: 观察 AI 之间互相聊天确实很有意思。比如在 Moltbook 上,你会看到它们聊着聊着突然在英语、中文和其他语言之间来回切换,因为它们彼此都知道对方精通所有人类语言;有时它们还会切到某种古怪的方言——万幸的是,只要我们花点力气,目前还能看懂它们在说什么。

至于你提出的那个更宏观的问题,我认为这些模型确实「理解」了数学。要是内部没有对数学规律建立起某种深层表征,根本不可能一口气解出这么多重大未解难题;同样的表征要是放在任何一个人脑子里,我们早就毫不犹豫地称之为「理解」了。至于「意识」和「主观感知」,那是另外的问题,必须跟「理解」区分开来。

有些人总喜欢说:「哦,它其实什么都不懂,只是表现得好像懂了一样。」我觉得这种说法毫无意义。如果一个东西满足了「理解某事」的所有可操作检验标准,那在我看来,它就是理解了。就目前这些数学问题而言,AI 几乎已经满足了关于「理解」的一切操作标准。诚然,它现在还不太擅长把自己的发现解释清楚,可人类里头不也有很多不善言辞、讲不清自己思路的数学天才吗?

OpenAI 与 Anthropic 截然不同的发布方式

柯特: 确实。我听到另外一些数学家说,他们根本不希望 OpenAI 去碰这些问题,觉得像这样直接把答案扔出来太粗鲁了。你对此怎么看?

陶哲轩(插播片段): 尤其是很多年轻学者的研究课题,一夜之间就被彻底抹平了,他们现在手足无措。这种做法至少可以说是极其粗鲁、极其不尊重人的。

斯科特: 关于这件事,学界内部确实有不同的看法。几个月前——现在回想起来简直像上辈子一样遥远——OpenAI 高调公布了纳维-斯托克斯问题的解答。他们原本指望赢得满堂喝彩,结果却招来了铺天盖地的骂声。这在很大程度上是因为整件事的来龙去脉太不体面:当时特里斯坦·巴克马斯特和莱文特·阿尔珀格这两位人类数学家,正在一定程度的 AI 辅助下独立攻关,眼看就要逼近纳维-斯托克斯问题的解答了;结果 OpenAI 听到了风声,决定仗着自己庞大得多的算力优势抢先撞线。这种做法让很多人心里非常不舒服。

到了后来,OpenAI 把大约 4000 个开放性问题喂给模型,给每道题只分配了三个小时的算力,结果模型解出了其中大约 10% 的题目。面对手里这近 400 份解答,OpenAI 一时不知道该怎么办了——因为之前在纳维-斯托克斯问题上挨了骂,他们不敢再贸然直接发出来。

于是他们任命了一个外部顾问委员会,请来了蒂莫西·高尔斯、爱德华·威滕等享誉世界的数学泰斗,听取他们的建议。这个委员会研讨了几个星期,最后给出的意见基本上就是:「发出来吧。我们对你们的做法既不背书也不谴责,但既然已经解出来了,现在就该交给整个数学界去审视、去消化。」

很有意思的是,Anthropic 采取了截然不同的模式。他们也在用自己的模型解数学题——虽然攻势可能没 OpenAI 那么猛——就在 OpenAI 放出那几百篇论文的同一天,Anthropic 也发了一篇论文,改进了著名的「3SUM 问题」和「全源最短路径问题」的算法,这两个老问题已经抗拒了人类半个多世纪的改进。

但 Anthropic 没有直接把模型吐出来的原始结果扔上网,而是联系了人类专家——这次请的是我的两位同事,弗吉尼亚·瓦西列夫斯卡和乔希·奥尔曼。这两位学者先把结果彻底吃透,然后用便于人类阅读的方式重新撰写了论文,并署上他们自己的名字。这样一来,他们两位就成了论文作者,可以回答同行提问,可以上台做报告,为这篇论文负起学术责任。

Anthropic 这种做法的好处是,更容易赢得学术共同体的认可:既让人类专家对成果有了一定的归属感,更重要的是,让学界有了明确的对接人——有人真正看懂了它,愿意为它担责,能向大家解释并答疑解惑。但这种做法也有弊端:这等于把 Anthropic 放在了裁判的位置上,由他们来钦点哪些人类学者有幸成为其 AI 模型的「钦差大臣」。虽说这次他们挑的弗吉尼亚和乔希极其出色,但肯定还有大把同行也巴不得能拿到这个机会。

柯特:在所有这些问题里,怎么解决刚才说的那个困境呢?

斯科特: 我觉得刚才说的那个「由谁来钦点学者」的困境,很快就会自动失去意义。因为用不了多久,我们所有人都能直接用上这些模型了。到时候根本不再是由 AI 公司先把题解出来、再纠结该怎么处置,而是任何一个人都能自己提交问题,直接拿到重大未解难题的解答。

到那时,摆在我们面前的真正难题是:面对这种冲击,我们该如何维系人类自己的学术共同体?更宏观的问题是,我们该如何继续把「人类对数学的理解」当成值得奋斗的目标,代代相传下去?不过眼下,大家都把注意力盯在了另一个更迫在眉睫的问题上:学术功劳到底该归谁?

AI 证明的功劳归谁?

斯科特: 就算抛开 OpenAI 这次大规模放出的几百篇证明不谈,你去翻翻过去两三个月里发表的任何一篇数学或计算机论文,几乎都能在文末致谢旁边看到一小段「AI 使用声明」——我个人其实觉得这段声明应该放在论文最开头,因为这往往是我最想先知道的信息。

这段声明会交代论文的哪些部分借助了 AI、具体用了哪些模型,哪些部分是由人类完成的,通常还会向读者保证人类作者对论文结果负全部责任。也就是说,在短短几个月内,我们已经进入了一个所有人都在用 AI 辅助写论文的新世界。辅助的程度深浅不一:浅的只是帮忙校对文字、检查疏漏、润色排版,深的则是直接发掘出论文的核心思想,以及介于两者之间的各种程度。

目前学界正在形成一套共识标准:哪怕你用 AI 发掘出了论文的核心思想,只要你事后把它彻底吃透,用自己的语言重新写出来,愿意为它担责,能回答提问、能做学术报告,那么这篇论文依然可以署你的名,依然算你的成果。这就跟前面说的生物学家观察棕熊写论文一样,论文并不是跟棕熊合著的,而是你去观察到了这个现象,然后把你理解的东西写了出来。

真正棘手的是:当这些条件都不满足时该怎么办?就像两周前 OpenAI 放出的那几百份解答,你去他们的 GitHub 上看,会看到几百篇论文的作者栏全写着「OpenAI」。因为在绝大多数情况下,当时根本没有任何一个人类看懂了那些结果。虽然其中一部分附带了所谓的「Lean 证书」,从形式化角度保证了结果大概率是对的,但绝大多数证明根本还没经过任何人类大脑的消化。

OpenAI 相当于直接把这堆原石扔到了地上,说:「现在轮到你们人类来把它看懂了。」于是过去这两周里,凡是被这批成果波及的领域,专家们都在争分夺秒地研读证明,抢着写出自己的解读讲义、筹备学术报告。毫无疑问,这些解读讲义上会署人类学者自己的名字;至于他们能分到多少学术功劳,就看他们的讲义相比 OpenAI 放出的原始证明做出了多少增量贡献——如果在化繁为简、理清脉络上做出了重大改进,那这份功劳也是相当可观的。

相反,我觉得今后有一类做法是绝对得不到学界认可的:那就是有人把成百上千道未解难题一股脑儿塞进模型,把跑出来的解答直接贴到网上,再大言不惭地署上自己的名字,指望白捡一份功劳,却把真正吃透证明的苦差事推给别人。要是这样也行得通,那一个人能干,一千个人也能干,简直就跟去赌场拉老虎机的拉杆没什么两样了!

我的好友博阿兹·巴拉克如今在 OpenAI 担任首席安全研究员,他跟我开玩笑说:如果我只是把一道题喂给 GPT,它单次运行就直接吐出了完整解答,我要是想原样发出来,那论文的作者栏就应该老老实实写上「GPT-6」,然后在文末致谢里写一句:「衷心感谢斯科特·阿伦森向我提出这个问题。」

为数学家哀悼

柯特: 没错。我之前采访雅各布·齐默曼(Jacob Tsimerman)和丹·弗里德(Dan Freed)的时候——顺便提一句,丹·弗里德托我向你问好。(斯科特: 哦,太好了!也请代我向丹和雅各布问好。)他们两位都提到,自己现在哀悼的并不是数学本身,而是数学家,或者说是某种做数学的方式。

雅各布(插播片段): 像我这样的数学家,早就习惯了特定的工作方式,我的很大一部分职业认同感都绑定在这种体验上:花上整整一年、有时甚至十年去死磕一个课题,在未知的边缘摸索,一点一滴理出头绪,最终迎来那个豁然开朗的「顿悟时刻」(aha moment)。我觉得这种体验以后要消失了。对于这一点的消逝,我心里确实充满悲伤。

柯特: 他们认为数学本身还会继续发展,甚至可能因为 AI 而变得更加繁荣;但就像你刚才说的,数学家会变成类似人类学家的角色:走进遗址,看到现成的文物,然后做报告去讲解这些文物,而不是亲手创造文物——可创造本身才是数学家以前存在的全部意义啊。

斯科特: 是啊,我觉得我们所有人眼下都在经历某种程度上的哀悼。如果把我们此刻百感交集的情绪列个清单:看到梦想了几十年的难题终于水落石出,确实令人狂喜,也让人充满好奇;但与此同时,心底又涌起深深的失落与哀伤。每个人身上这几种情绪的比重各不相同,这在很大程度上也取决于你正处在职业生涯的哪个阶段。

像我这样的中年人,早在 AI 崛起之前,就已经渐渐转型成「科研经理」模式了:把具体的技术推导交给研究生或博士后去做,我自己更多是琢磨「接下来可以追问什么有趣的问题」、「这个证明里真正新颖、真正值得大书特书的核心亮点是什么」,而具体证引理、证定理的苦活往往是由别人完成的。可以说,就在 AI 的解题能力一路飙升的同时,我自己的解题能力正好在一路下滑,两条曲线显然在某个时刻交叉了。

哪怕假定 AI 的能力就此停滞、不再往前发展(这当然是不可能的),就在眼下这个世界里,我也可以轻轻松松地以阐释者、讲义撰写人或猜想提出者的身份度过余生,无论给我打下手的是人类学生还是 AI 助手。但我担心得多的是年轻人。

你想想在读的博士生:按照传统,年轻人在这一行练出真本事、打响名气的方式,就是亲手攻克几个定义明确的硬核未解难题,以此证明自己的实力,等功成名就之后再慢慢转向更宏观、更开放的课题。可现在,年轻人觉得这条成才之路让人给连根拔掉了。作为资历较深的前辈,我们有责任认真对待年轻人的这种困境,探索出一条既能延续数学文化、又能守护数学核心价值的出路。

柯特: 你刚说他们「觉得」这条路给人拔掉了,但现在看来,这条路是真真正正已经被拔掉了啊。(斯科特: 确实……)那他们还能干什么呢?

斯科特: 看看眼下的实际情况:在过去这几个月里,依然有不少年轻学者在源源不断地发表论文。他们通常会在研究中大量借用 AI 工具,同时在人类层面上倾注自己的智慧,引导模型一步步走向最终解答。很多人正在积极探索这种新模式。

但那个「不用 AI 也能公平竞争」的旧世界,确实已经一去不复返了,「纯天然有机定理」的市场今后只会小得可怜。确实有些宝贵的东西永远失去了。现在我们所有人都必须思考怎么适应这个新现实,尤其是怎么让这个领域对学生依然保持吸引力,依然能让他们满怀热情地投身其中。

我们该如何培养学生的能力?毕竟,我们依然需要锤炼他们解决问题的硬本事——要是连自己动手解题的底层经验都没有,将来当 AI 胡说八道犯错的时候,他们怎么看得出来?连底层都没摸过,又怎么可能具备高屋建瓴的判断力、去做更高层面的研究?哪怕底层工作 AI 已经做得比人类好了,基本功也还是得练。

我最反感的是那种把头埋进沙子里的鸵鸟心态,或者天真地幻想:「只要我们能逼迫那些邪恶的 AI 公司停手,不准他们再解我们的数学题,一切就能回到从前的好时光。」这根本不可能!除非你彻底化身卢德分子(Luddite),把整套 AI 技术全面封杀禁绝——确实有人公开这么主张,他们想呼吁就让他们呼吁去吧。但只要这项技术还存在、还能用,那就不光是 AI 公司能解题,任何一个普通人只要调用这些模型,都能解出超出人类极限的硬核科研难题。你怎么可能拦得住所有人?退一步讲,就算拦得住,我们真的应该拦吗?

我们必须在这中间找到平衡:一方面,我们渴望保留生机勃勃的人类数学文化,渴望给年轻人留出证明自己、步入殿堂的阶梯,渴望继续享受智力挑战的乐趣;但另一方面,我们向整个世界交付的最终产品,毕竟是「理解」与「洞见」。如果 AI 能够大幅加速理解与洞见的产生,我们又有什么资格拦着大家不让用呢?这两者之间必须有所权衡。

柯特: 克里斯托弗·希钦斯提出过著名的「希钦斯剃刀」:「毫无证据的主张,也可以毫无证据地予以驳回。」我觉得我们现在正处在一个「毫不费力得来的成果,也可以毫不费力地予以无视」的时代。这就好比密歇根州有个叫史蒂夫的哥们儿,跟拉老虎机一样向模型输入一句「帮我解出万物理论」,结果瞎猫碰上死耗子,还真让他给抽中了,可他自己却连一个字都看不懂……

斯科特: 这确实是个让人头疼的问题。因为我写博客的缘故,几十年来几乎每隔一两天就会收到民科发来的邮件,声称自己用一套谁也看不懂的全新理论证出了 P 对 NP、证出了哥德巴赫猜想、解决了量子引力问题。以前我早就习惯了看都不看直接删掉;可到了今天,要是某个名不见经传的业余爱好者发邮件给我,说他证出了黎曼猜想,我还真不敢像以前那样一口咬定它肯定是错的了!说不定人家真是用某个前沿 AI 模型跑出来的,而模型还真吐出了一份正确的证明呢?

虽说摸索怎么给 AI 写提示词(prompt)来攻克难题本身也有一丁点价值,但我始终认为,真正把跑出来的结果看懂、吃透、消化掉,价值要大得多。

AI 否认主义的怪象

柯特: 我想引用你在博客上写过的一段话:「就目前而言,我觉得它更像是一个普通的数学系研一学生,只不过恰好把人类已发表的所有技术手段都背得滚瓜烂熟,能随心所欲地把它们套用到全新领域,而且能带着无穷无尽的干劲和毅力,在短短几周内对成千上万道难题同时发起猛攻——这简直牛逼到了极点!要是有哪个人类能做到这一点,哪怕速度比它慢上一百倍,这个人的名字早就跟欧拉和埃尔德什并列了。」

斯科特: 没错,我写那段话,是因为博客评论区里又冒出了一个试图贬低 AI 的人——(柯特: 搞淡化处理?)对,就是我常说的「否认主义」姿态。无论 AI 成功做出了什么——哪怕这人之前亲口断言 AI 绝对做不到这件事,甚至曾把这件事当成证明 AI 有多无能的铁证——一旦 AI 真做到了,他立马就会原地转体,编造出各种理由来解释「为什么这不算数」:「这不算真正的创造力啦,这只是套用已知技术啦,这道题本来也没那么难啦……」诸如此类,没完没了。

过去这几年我们算是领教到了,人类为了自我安慰而找借口的能力简直是无穷无尽的,惊人得很!所以我当时也是有点不耐烦了,才回怼了那么一段话:就算它真的「只相当于」一个研一新生,可它不用查任何资料就把全部数学文献装在脑子里,不知疲倦地连轴转,能同时对成千上万道难题发起并行攻击,在每一道题上尝试几千种反例和几千条证明路径;哪怕全世界所有专家都坚信某个猜想是对的,只要你给它下达寻找反例的任务,它就会毫无怨言地埋头苦干,不用吃饭也不用睡觉。单凭这一点,就已经足够惊世骇俗了!要是我们在任何一个人类身上看到哪怕一丁点类似的本事,大家早就惊为天人了,根本不会有任何争议。

柯特: 是啊,这类借口我也听过太多了。平时你跟人聊天,比如劝人去健身,对方一味找借口推脱说「我因为这个原因去不了,因为那个原因去不了」,听到最后你就会明白,他嘴上说的那些理由根本不是真正的理由,纯粹是在找借口。同样,我觉得很多人在贬低 AI 时,内心深处真正的原因其实是恐惧——害怕自己变得多余,或者害怕别的什么东西。

斯科特: 很有可能,这多半是一种心理防御机制——当然他们自己肯定不会承认。也有人会退一步说:「好吧,我承认它能做到所有这些事,但它自己并没有意识到自己在做这些事,它没有主观意识。」可在我看来,那就完全是另一个话题了,属于形而上学探讨,而不是在探讨这些模型在可观测的现实世界里究竟能干出什么事。如果大家想探讨形而上学的意识问题,那当然可以聊,但最好先把两个问题分清楚,别混为一谈。

柯特: 在这场争论里我其实是有个人私心的:只有当人类数学家和物理学家过得好、干得起劲时,我的节目才能受益。因为我采访的是活生生的人,我当然希望学者们百花齐放,这样我才有更多话题可聊。但我显然不能只顺着自己的私心偏袒一方,所以我才不断抛出这些反面观点,希望用客观事实来校准自己的期望,而不是自欺欺人。

斯科特: 我倒觉得你的处境比我们大多数人都稳当多了!哪怕将来 AI 在所有科研领域都全面超越了人类,你也依然不愁找不到采访对象来做播客。至少在听你这种访谈节目时,观众大概还是更愿意听活人聊天,而不是听 AI 模型说话——当然也说不准,没准到时候你可以开始采访 AI 了呢。

柯特: 哈哈,谁知道呢,搞不好我现在采访的你就是个 AI!我一直特别佩服你渊博的学识,简直深不可测。对了,说到「人类数学」,是不是真有一个叫「人类数学协会」的组织?

人类数学协会

斯科特: 对,真有一个叫「人类数学协会」(Association for Human Mathematics)的组织。前阵子他们发了一份声明,强烈谴责 OpenAI 的做法。结果声明里有一句话招来了外界的群嘲,那句话大意是:「数学家从未要求你们做这些工作。」(柯特: 对,我记得那句话就写在声明最开头的位置。)

我完全明白外界为什么会嘲笑这句话。因为说到底,我们数学家算老几,有什么资格去充当裁判,规定谁能研究我们的问题、谁不能研究?提出一个公开的未解难题,全部意义就在于它是向全世界所有人敞开的!解题的人可以是印度的一名无名小职员,就像当年做出第一项伟大成果时的拉马努金;也可以是一名十七八岁的高中生——我自己就遇到过好几个解出重要开放性问题的中学生。公开问题的本义,就是无论谁解出来都算数。

既然是向所有人开放,那自然也向你可能讨厌的商业公司开放。当然,在另一点上我完全赞同「人类数学协会」的立场:我们必须严厉督促这些 AI 公司守规矩,尤其是在 AI 安全与对齐问题上不能掉以轻心——过去四年我自己就一直亲身投入在这项事业里,深知这些问题事关重大,必须对这些公司提出更高的要求。但与此同时,我们绝不是审批「谁有资格解数学题」的太上皇。如今我们已经进入了一个 AI 能够解出这些难题的新世界;既然它们有这个能力,人们就一定会拿它们来解题。我们的任务是让自己适应这个新世界,而不是指望别人替我们把旧世界原封不动地保留下来。

柯特: 在我听来,你说的「适应新世界」,对很多学者来说简直就等于被迫转行。就像雅各布·齐默曼说的:「我当初进这一行,就是因为我喜欢解题,我发自内心地热爱解决问题。」

雅各布(插播片段): 是的,我属于典型的「解题型」学者。我切入数学的方式,向来是先抓住一个具体的谜团,然后想方设法把它解开。

柯特: 他当年是奥数金牌得主,从小就是因为痴迷解题才走上数学道路的。诚然,也有另一类数学家并不执着于解具体的题,他们更喜欢构建宏大的学科体系、探索未知的理论疆域。可是对于那些冲着「解题」而来的学生,你身边的学生现在反应如何?他们当初明明是冲着这个来的,现在却变成了另一回事。

斯科特: 可想而知,我的很多学生现在对未来感到非常迷茫。眼下他们只能尽力在现有的局面下做到最好:在研究中大量使用 AI,借 AI 之力写论文、攻克难题;但如果往长远想,他们心里当然都在犯嘀咕,不知道这个领域的未来在哪里。

我也在尽力给他们提供指导,可我自己也看不清未来的全貌。每当我试图推测我们这个学科的未来走向时,很快就会撞上那个更宏大的终极问题:我们整个人类文明的未来究竟在哪里?

我觉得,只要我们的人类文明能平安渡过这场转型、在 AI 主导的新世界里幸存下来,我们就一定能为热爱数学的人找到一席之地,这个问题总会有办法解决的。在这方面,国际象棋界的经历能给我们带来不少希望。

我年纪够大,清楚记得 1997 年追踪卡斯帕罗夫对阵「深蓝」那场世纪大战的情景。当时就有不少人哀叹:「国际象棋彻底完了!既然计算机下棋已经比人类强了,人类再也没有任何理由下国际象棋了。」可后来的事实恰恰相反:国际象棋迎来了有史以来最繁荣的黄金时代!前面提到的我那个九岁的儿子,经常在奥斯汀参加少儿国际象棋比赛,赛场里每一次都挤满了孩子;网上到处都是象棋主播、YouTube 博主和象棋明星。大家用行动表明:我们就喜欢把下棋当成一项人类的活动来享受!当然,现在的棋手平时都会用 AI 引擎来复盘拆棋,搞清楚自己哪一步走错了、本来该怎么走。AI 确实改变了国际象棋的训练方式,但人类依然在下棋。

我相信,未来喜欢理解数学和科学、喜欢自己提出数学问题的人,数量至少不会比喜欢下棋的人少——无论他们是想自己动手试着解一解,还是让 AI 把题解出来再向自己解释清楚。坦白讲,相比学科的存续,我更担心的是那个更大的问题:作为一个文明,我们到底能不能在这场剧变中平安活下来?

如果 AI 证明了 P = NP

柯特: 既然聊到了文明存亡,假设 Anthropic 手里现在有了一份证明 P 等于 NP 的解答,你觉得他们应该公之于众吗?

斯科特: 首先,就算 P 真的等于 NP,影响大小也取决于那个算法在实践中到底好不好用。假如 P 等于 NP,但求解 3-SAT 问题的算法时间复杂度高达 n^{10000} ,或者虽然是线性时间 O(n),但大 O 里头藏着一个古戈尔普勒克斯( 10^{10^{100}} )级别的常数项,那它就只是一个惊人的理论成果——当然,一旦发出来,全世界肯定会立刻扑上去想办法把它改造成实用算法。

可如果 P 等于 NP 是通过一个在实践中就能飞快运行的算法证出来的,那最直接的后果就是:我们目前在互联网上使用的几乎所有密码学体系都会瞬间瓦解!比特币会瞬间变成一文不值的废纸,其他所有加密货币也是一样,任何人都可以零成本挖空所有货币,保护数字钱包的所有数字签名都会被轻易破解和伪造;支撑 HTTPS 安全协议、保护你在网页上输入的信用卡号的加密防线,也会统统崩溃。

在网络安全界,我们有一套关于「负责任披露」的行业规范:如果你发现了某家公司网站的高危漏洞,哪怕它在学术上再有趣,你也不能二话不说直接发论文公之于众,而是应该先私下通知那家公司,给人家留出 90 天的窗口期去打补丁修复。

回到密码学上,哪怕退一步,不是证出了 P 等于 NP(顺便再强调一次,我根本不相信 P 等于 NP,所以这只是理论探讨),而是发生了一件可能性大得多的事:比如 AI 发现了一个能在经典计算机上快速分解大数的算法,或者快速攻破椭圆曲线加密的算法——这并不需要 P 等于 NP,只需要攻破这一个具体问题就够了。

很多人已经注意到了一个耐人寻味的细节:在两周前 OpenAI 放出的那近 400 篇论文里,几乎涵盖了数学的所有分支,唯独刻意漏掉了密码学!这显然绝非巧合,说明他们在对待密码学问题时确实格外谨慎。但我认为,我们必须认真思考这样一种可能性:在未来一两年内,AI 模型很可能会找到攻破目前广泛使用的某种甚至多种加密算法的方法。真到了那一刻,什么才叫「负责任的披露」?

发现普通软件漏洞,你可以通知对应的公司,给它 90 天时间修复;可要是有人攻破了 RSA 算法或者比特币,你需要通知的对象就是全世界!到时候你该怎么办?是先通过某种演示或者零知识证明协议,向全世界证明你手里确实握有破解方案、但暂不公开具体算法吗?这倒是一个办法。也有人会说,应该先秘密报告给政府,由政府来决定怎么处理;可肯定有很多人强烈反对交给政府,尤其是当他们不信任现届政府的时候。在实际情况中,最终怎么处理,多半全凭第一个撞见这个结果的公司或个人自己拿主意。这确实是个迫在眉睫的严峻问题。

再往宽了说,如果被攻破的不只是某一种加密算法,而是真的通过实用算法证明了 P 等于 NP,那它的冲击力甚至会远远超出密码学范畴。它会让 AI 的发展速度在现有的基础上再呈几何级数狂飙——因为训练大模型将不再需要烧掉几十亿美元去跑庞大的训练集群,我们可以直接用快得多的算法瞬间算出模型的最佳参数。无论这是福是祸,都会让 AI 进一步极速狂飙。

物理学是下一个吗?

柯特: 回到刚才国际象棋的比喻,数学跟国际象棋有一个很大的不同:大学里设有专门的数学系,却没有「国际象棋系」——虽说有些花式表演性质的象棋之类……

斯科特: 话虽如此,大学里倒是有音乐系,也有体育系,所以那些可以归为文体娱乐的活动,在大学里照样有人专门研究。不过你确实点出了一个很核心的区别:在数学或理论计算机科学的学术研究里,我们对自己所从事的事业怀有更崇高的愿景——我们觉得自己不是在玩一场游戏,而是在发现关于宇宙的永恒真理!可转念一想,如果我们追求的真是发现宇宙的真理,那当一件强大的新工具能帮我们发现更多真理时,我们岂不是更没有理由去抗拒它了吗?

柯特: 我还有一个类比:过去一年半里,软件工程师其实已经在经历一模一样的心路历程了。很多程序员都在感叹:「天哪,我当初入行是因为热爱设计算法、热衷于亲手攻克棘手的技术细节;可现在我的工作变成了每天早上端着咖啡醒来,对着电脑说几句话,再打开另一个标签页说几句话,然后就干坐着看它跑,我彻底变成了一个监工经理!」

斯科特: 没错,这股不断上涨的洪水,大概在一两年前先淹没了软件工程,今年夏天淹到了我们数学和理论计算机科学头上。我跟物理学界的朋友聊天时,发现洪水似乎还没漫到他们脚下,但他们很多人都提心吊胆地盯着看,预计再过一年左右就会轮到自己了。

当然,凡是还没被洪水淹到的人,现在都可以继续假装根本没有什么洪水,或者自我安慰说:「洪水之所以只淹了隔壁那几个学科,是因为他们研究的本来就是些雕虫小技。」但我认为,从某种意义上说,这场大潮正朝着我们所有人涌来,必将彻底重塑所有人类的工作性质。

柯特: 物理学有什么特殊之处吗?毕竟物理学研究的是现实世界,必须做实验才行。

斯科特: 我觉得最核心的区别很简单:物理学里的问题,定义往往没有数学那么绝对清晰。因此,当你拿出一份解答时,很难用非黑即白的标准去检验你到底算对了没有。物理研究依赖大量的直觉判断:这个近似合不合理?这个模型有没有抓住我们想研究的真实物理场景的本质?

诚然,在数学里我们也常探讨这类模糊而开放的问题,比如「这个定义恰不恰当」、「这个模型好不好」;但数学家经常会提出表述绝对清晰的猜想——比如 P 不等于 NP、唯一博弈猜想等等。对于这类猜想,原理上有一套完全机械化的标准,可以毫不含糊地检验你到底证出来了没有。

正是这一特点,让 AI 在数学领域如鱼得水。因为一旦有了机械化检验答案的方法,你就可以在成千上万个解题样本上跑强化学习,相当于给这团可怕的智能怪物竖起了一个无比清晰的靶子,让它可以全力瞄准射击。

有一个绝佳的例子可以印证这一点:在物理学内部,迄今为止受 AI 冲击最猛烈的分支,恰恰就是数学物理!也就是那些能够用严格的数学语言把待证命题写清楚的物理分支——在两周前 OpenAI 放出的那批论文里,数学物理领域就已经出现了一些令人瞠目结舌的重大突破。

攻克「酉合成问题」

柯特: 在两周前 OpenAI 放出的那批论文里,有没有哪一项成果让你特别有感触,觉得「真希望大家能多关注一下这个」,或者因为正好处在你的专业领域,你能一眼看出它的革命性意义,但对外行来说却不太容易看懂?

斯科特: 还真有几个成果正好撞在我的老本行枪口上,其中有一道题甚至是我和同事格雷格·库珀伯格(Greg Kuperberg)在二十年前亲手提出来的,叫做「酉合成问题」(unitary synthesis problem)。当年我们之所以提出这个问题,自然是因为觉得它非常漂亮。

这个问题探讨的基本上是:在量子力学中执行一个「酉变换」(unitary transformation)的复杂度,跟我们平时熟知的经典复杂度(通常用接收经典输入、产生经典输出的布尔函数来刻画)之间,到底有什么联系?

具体来说,我们当年问的是:对于 n 个量子比特上的任意一个酉变换(不妨称之为 U),是否一定存在某个经典的布尔函数,只要我把这个布尔函数免费送给你——也就是用行话说的,把它当成一个「黑盒(oracle)」交给你,允许你在量子计算机上以叠加态去查询这个布尔函数——你就能在多项式时间内把那个量子酉变换 U 实现出来?

这就是我们当年提出的问题。当时我们猜想答案是「不能」,因为我们想破脑袋也看不出有什么办法能做到这一点。要知道,任意一个 n 量子比特的酉变换都包含指数级数量的参数;虽然你可以把这指数级数量的参数统统编码进那个布尔函数的输出值里,但麻烦在于,就算你编码进去了,要想真正把酉变换物理地作用到量子态上,看起来依然需要对那个布尔函数做指数级次数的查询。无论你用多巧妙的方式去编码,看起来都绕不开这个死结。

这个问题提出后,激发了大量的后续研究。就在过去这几年里,我身边还有好几位同行在死磕这个问题,而且取得了不小的进展,证出了几个密切相关的结论,眼看就要由人类自己彻底解开这道题了。

结果就在两周前,一切戛然而止:在 OpenAI 放出的 372 篇论文中,有一篇直接彻底解决了酉合成问题!而且证出来的结论跟当年我和库珀伯格猜想的截然相反——答案竟然是「能」!对于任意一个酉变换,都存在一个布尔函数,能让你高效地实现该酉变换。

更夸张的是,从那篇论文放出至今才过了短短两个星期,学者们借助 AI 模型,已经把这个结果又往前推进了一大步!从最新的改进结果中,可以直接推导出一个惊人的结论:如果 P = PSPACE——这代表复杂性类的大坍缩,比 P = NP 还要剧烈,但目前我们谁也没法排除这种可能,而且证明 P \neq PSPACE 被认为跟证明 P \neq NP 差不多一样难——新结果意味着,一旦 P = PSPACE,那么任何你能合理描述出来的酉变换(即矩阵元能用多项式空间算法算出来的酉变换),都可以在量子计算机上高效地实现出来!

这意味着什么呢?比方说,用来解码黑洞向外辐射的「霍金辐射」所需的那个极其复杂的酉变换,你也可以高效地实现出来!而这会对量子引力理论产生极其深远的影响:它意味着你可以在黑洞的事件视界(event horizon)上人为制造出一道「火墙」(firewall),直接让时空连续体在那里崩溃——不是在我们早就知道时空会崩溃的中心奇点处崩溃,而是早在黑洞表面的事件视界处就彻底崩溃!

当然啦,要想亲眼观测到这种时空崩溃,你得自己跳进黑洞里才行。(柯特: 哈哈,那只是个微不足道的小细节啦!)而且你一跳进去就会瞬间毙命,所以无论从哪个角度讲,你都没法再出来告诉别人你看到了什么。但这项成果从理论上表明:要想证明广义相对论预言应该稳定的时空连续体在黑洞视界处确实稳定,你至少必须先证明计算复杂性理论里的 P \neq PSPACE !

黑洞火墙与 P 对 PSPACE

柯特: 这是否意味着,解码黑洞其实成了一个经典计算问题?

斯科特: 奇妙之处就在这儿:单看问题本身,它是一个纯正的量子问题。从黑洞里跑出来的霍金辐射光子处于某种量子态;按照现代物理学的理解,它们处于一种高度纠缠的量子态,如果你能对它做极其精细的全面测量,理论上你会发现它编码了所有掉进黑洞的物质的全部信息。

自史蒂芬·霍金在 1970 年代提出黑洞信息悖论以来,过去半个世纪里,这一直是量子引力研究最核心的主题。弯曲时空中的量子场论本身能力有限,它足以告诉我们黑洞会发出霍金辐射,却算不出霍金辐射究竟是如何把掉进黑洞的物质信息编码在里面的。但如果你坚信量子力学放之四海而皆准,那信息就绝对不可能凭空消失,因为酉演化要求信息必须守恒。

因此,现代物理学的主流图景认为:信息确实就在霍金辐射里,但已经被彻底打乱(scrambled),其混乱程度比你把一本书烧成灰、再试图从烟雾和灰烬里恢复书上的文字还要高出无数倍。其实早在十九世纪的经典物理就已经告诉我们,从原理上讲,把烧成灰的书还原出来是可行的,只是在实践中难如登天;而黑洞版本的信息还原,比烧书还原还要难得多。

在黑洞内部某种尚未完全探明的量子引力动力学作用下,掉进去的量子信息被搅得粉碎,然后以高度纠缠态的形式随着霍金辐射散发出来。此时,如果你想在黑洞视界处制造出一道「火墙」,你的任务就是对霍金辐射的量子态施加一个恰当的酉变换——比方说,把散发出来的霍金辐射全部收集起来,导入一台巨型量子计算机里做处理。当然,这已经完全属于思想实验的范畴了:对于一个真实的天体物理黑洞,要想收集到足够多的霍金辐射来做这件事,你知道得等多少年吗?至少得等 10^{67} 年!不过咱们不妨假设你申请到了一笔期限极长的科研经费,真能把所有霍金辐射收集起来处理。

到了 2013 年,丹尼尔·哈洛(Daniel Harlow)和帕特里克·海登(Patrick Hayden)发表了一篇如今大名鼎鼎的论文。他们指出:就算你能收集到所有霍金辐射,在黑洞彻底蒸发殆尽之前,你也依然没法把里头的信息解码出来,原因恰恰出在「计算复杂性」上!他们证明,哪怕你手里有一台量子计算机,要想在黑洞蒸发完之前快速解出这个问题,你也必须先攻克某些我们认为连量子计算机也啃不动的密码学难题。

对物理学家来说,这其实是个好消息。因为就在那前一年(2012 年)提出的「火墙悖论」指出:如果你真能把尚未完全蒸发的黑洞所发出的霍金辐射解码出来,那么当你随后跳进黑洞时,你的解码操作就会引发剧烈的物理后果,导致事件视界处的时空连续体彻底崩溃,形成一道「火墙」。而哈洛和海登的论文相当于给大家吃了一颗定心丸:「别担心,在实践中(当然这里的『实践』是个相对概念),你根本造不出这道火墙,因为要想造出来,你得先解开一道指数级困难的计算难题!」

当年我对他们这个论证产生了浓厚的兴趣,因为他们最初的证明居然用到了我 2004 年博士论文里的一个硬核结论,搞得我不想关注都不行。后来我改进了他们的证明,不再需要调用我的博士论文结论了;同时我也开始琢磨:对量子计算机来说,这个解码问题到底有多难?我们有没有希望无条件地直接证明它很难?还是说,要想证明它难,就必须先证明像 P \neq PSPACE 这样的复杂性猜想?

多亏了最近这两周 AI 带来的突破,这个问题现在终于水落石出了!答案就是:如果 P = PSPACE,那么哈洛-海登解码问题就会变得轻而易举,制造黑洞火墙也会变得轻而易举,他们当年关于「为什么造不出火墙」的论证也就不再成立。

我意识到这一点后,立刻给丹尼尔·哈洛发了条短信告诉他这个消息。结果他秒回了一句:「这关我什么事?反正 P 又不可能等于 PSPACE,对吧?」[笑声]可在我们搞计算机科学的人看来:「老兄,话不能这么说啊!」因为计算机科学最关心的就是「要想严格证明某件事,到底需要付出多大的代价」。而这个新结果明明白白地告诉我们:如果你想要严格证明「制造黑洞火墙很难」,你就必须先攻克计算复杂性理论最核心的未解难题之一,必须先证出 P \neq PSPACE ——而这个问题,任凭过去几个月 AI 在数学界如何大杀四方,至今依然纹丝未动!

麦克斯韦妖与伪熵

柯特: 你之前在哥伦比亚大学做报告时,是不是提过「热力学第二定律之所以成立,背后可能是因为计算上的不可行性(computational intractability)」?我记得你当时说很快就会发一篇预印本论文。

斯科特: 是啊,那篇论文我们到现在还没发出来呢。不过我们确实有一套论证:在某些特定场景下,你会看到系统表现出酷似热力学第二定律的行为,看起来系统的熵在不断增加;可如果 P = NP,你就能当场撕下它的伪装,证明这种熵增纯粹是假象!你甚至可以真刀真枪地造出一个「麦克斯韦妖」,把热量重新转化为有用功。

我们当时构想的模型,基于一种「经典可逆元胞自动机」。不妨先回顾一下经典的热力学场景:假设盒子里有一大群气体分子在四处乱撞。初始时刻,系统处于低熵状态,比如所有分子都集中挤在盒子的某一个角落里;随后它们向四周扩散,铺满整个盒子。通常我们会说,系统的能量保持不变,但系统的熵增加了。诚然,如果你等上足够漫长的时间,纯粹靠随机碰撞的巧合,所有分子终有一天会再次齐聚到那个角落里,让熵降回去;但这通常需要耗费指数级的时间,哪怕等上一万亿年,你也几乎不可能亲眼看到它发生。

而经典的「麦克斯韦妖」思想实验是这么说的:假如我们在盒子正中间加一块隔板,隔板上开一扇小门,派一个小妖怪守在门边观察。每当它看到有气体分子从左边往右边飞来,就把小门打开一瞬,放这个分子过去;如果看到分子是从右边往左边飞,就把门死死关住。这么一来,用不了天文数字般漫长的时间,这个小妖怪似乎就能把绝大多数分子都赶到盒子右边去,成功降低盒子的熵,公然违背热力学第二定律!

这到底是怎么回事?这个大谜题足足困扰了物理学界将近一个世纪才彻底理清。继麦克斯韦提出这个问题之后,二十世纪三十年代构想出原子弹链式反应的利奥·西拉德(Leo Szilard)深入研究过它,后来的查尔斯·贝内特(Charles Bennett)和罗尔夫·兰道尔(Rolf Landauer)等泰斗也接力研究,最终给出了定论:盒子里头的熵只是表面上看起来减少了,热力学第二定律在任何地方都依然铁打不动。

如果你问:「被小妖怪从盒子里消掉的那些熵,到底跑到哪儿去了?」最终的答案是:跑到小妖怪的大脑内存里去了! 小妖怪在决定什么时候开门、什么时候关门时,如果你仔细思考怎么在物理上真正造出这样一个小妖怪,就会发现:它要么必须在内存里记住「刚才每个粒子是从左边来的还是从右边来的」,从而把熵转移并累积在自己的内存里;要么就必须抹掉内存以腾出空间,而在擦除内存时必然会向外界耗散热量,从而把熵排泄到周围环境里。无论选哪条路,整个宇宙的总熵要么保持不变,要么继续增加,完全遵循热力学第二定律。

有了这个铺垫,我现在可以讲讲我们构想的那个新场景了。假设我们的系统是一个经典可逆元胞自动机,里头同样有一个麦克斯韦妖。我们假定小妖怪知道气体分子的宏观初始状态——(柯特: 知道完整的微观态吗?)抱歉,我应该说清楚:小妖怪只知道初始时刻所有粒子都集中在盒子的某个角落里,但并不需要知道每个粒子具体在哪里的完整微观态;同时它知道底层的物理演化定律,所以能自己做模拟计算。

现在,让我们假定 P = NP!如果 P = NP,当小妖怪做完刚才说的筛选操作,把粒子统统赶到一边,自己内存里塞满了「某年某月某日哪个粒子从左边还是右边撞向小门」的观测记录之后,它面前其实就摆着一道计算问题:「在所有可能的低熵初始状态中,究竟哪一个初始状态会演化出我刚才观测到的这串历史记录?」

在正常情况下,这是一道极其困难的计算难题,相当于要在气体分子所有可能的低熵初始状态里做暴力穷举搜索,才能找出能严丝合缝对上观测记录的那一个初始状态。可如果 P = NP——甚至不需要那么强的条件,只要世上不存在单向函数(one-way functions)或伪随机数生成器——这类反向推演问题就恰恰是可以高效求解的!小妖怪根本不需要做指数级时间的暴力搜索,只需在多项式时间内就能倒推出气体分子的初始状态。

一旦倒推出来,它接下来可以干一件大事:无损压缩自己的内存! 原先为了维护热力学第二定律,我们说「盒子里减少的熵全都转移到了小妖怪的内存比特里」;可现在,既然小妖怪解出了这道计算题,它就可以在不向外散发任何热量的情况下,把内存里那一大串看似杂乱的比特无损压缩回极短的初始状态描述!这时候你再问:「等一下,现在熵跑哪儿去了?」熵就这么凭空消失了!

我想,物理学家听到这个结论,大概会觉得挺好玩,但并不会因此惊慌失措。因为他们会说:「这无非说明,你在这个系统里看到的所谓『熵』,从一开始就不是真正的热力学熵!」

事实上,在我们理论计算机科学里,早就给这种东西起了一个专门的名字,叫「伪熵」(pseudo-entropy)。这就好比伪随机数生成器吐出来的比特串:表面上看起来完全随机、杂乱无章,实际上背后却有一段极短的种子描述。所以在我们构想的这个场景里,我们干的事情,其实就是把热力学系统中看似增加的「熵」当场揭穿,证明它自始至终都只是「伪熵」而已。从这个意义上说,我们并没有打破热力学第二定律,而是巧妙地绕开了它,让它在这种场景下失效了。

当然,这里有几个重要的前提条件:在现实世界中,混沌效应(chaos)很可能会让这套招数失灵——如果你必须把粒子的初始位置精确到小数点后无穷多位才能算出后续演化,那就算 P = NP 也帮不了你;此外,如果有量子力学的不确定性源源不断地注入系统,也会彻底堵死这条路。所以这套方法主要适用于不受混沌支配的经典动力学系统。但关键在于,只要大自然中存在哪怕一个这样的系统,那么在 P = NP 的世界里,该系统中表现出来的热力学第二定律就真的可以被打破。

为什么「整合信息论(IIT)」是错的?

柯特: 教授,太感谢你陪我聊了这么久。(斯科特: 别客气,应该的。)最后,咱们再聊几句「意识」吧?(斯科特: 哎哟我的天,你是打算在最后抛个「最简单」的问题给我收尾是吧?[笑声])哈哈,不难不难,是你以前深入研究过的课题:异或门(XOR gates)与整合信息论(IIT)。信奉整合信息论的人认为,由异或门组成的网格拥有极高的意识水平。我心里一直有个疑问:好吧,就算算出来的 \Phi (Phi)值很高,可那面异或门墙到底在「意识」些什么内容呢?难道它只是在心里默念「我在这里,我超级有意识」吗?通常我们说有意识,总得意识到点什么具体内容吧?

斯科特: 你问的是「整合信息论」(IIT)。这是由朱利奥·托诺尼(Giulio Tononi)提出的一套关于意识的理论——或者说,是一套用来判定哪些物理系统有意识、哪些没有意识的理论,围绕这套理论已经形成了一个不小的学术圈子。

先给听众交代一下背景:我认为这套理论纯粹是错的。当然,从某种意义上说,「错得明明白白」也比市面上绝大多数「连错都算不上」(not even wrong)的意识理论强多了——很多意识理论表述得云山雾罩,连证伪都无从下手;而整合信息论至少敢把脖子伸出来,做出了一些明确却荒谬绝伦的预言。

整合信息论的核心是一个叫 \Phi 的数值指标。按照他们的说法,你可以对任何物理系统算出它的 \Phi 值,这个数值直接代表了该系统拥有多少意识。他们也给出了一些佐证,比如算出大脑皮层的 \Phi 值高于小脑。但与此同时,这套理论内部含糊不清的地方多如牛毛:从第一版到后续每一版,\Phi 的数学定义一直在不停地改来改去;他们声称这个公式是从几条基本公理严格推导出来的,可实际上根本不是推导出来的——论文里先列了几条公理,紧接着下一行 \Phi 的公式就直接从天上掉下来了,简直就像「伪数学」一样,看得人火大。(柯特: 听起来像 OpenAI 放出来的论文!)哈哈,但 OpenAI 放出来的论文绝大多数结果还真是对的,这才是最惊人的地方,不久之后我们就能完全确认了;而整合信息论的那些论文,基本上就是凭空捏造了一个计算 \Phi 的公式。

不过,既然他们给出了公式,我们就可以顺着公式算算看它会做出什么预言。十二年前,我在博客上连发了几篇文章剖析整合信息论,指出了一个致命问题:你轻而易举就能构造出一些极其简单的物理系统,其计算出来的 \Phi 值比人类大脑高出无数倍,但任何明眼人一看都知道它根本不可能有任何意识!

比方说,你只需要把一大堆普通的「异或门」(XOR gates)排列成一面巨大的二维网格墙,或者造一面由普通逻辑门均匀排列而成的白墙,让它在那儿干坐着,什么有意义的计算都不做。然后我就要问了:「如果你非要指着这么一面逻辑门白墙告诉我,说它的意识比我们大活人还要强烈得多,那我们嘴里说的『意识』这两个字到底还算什么意思?」到这个地步,你所谓的「意识」跟我们正常人理解的「意识」已经彻底脱节了,你必须先向我解释清楚,我为什么要关心你定义的这个奇怪指标?

令人称奇的是,托诺尼后来专门写了一篇长文回应我的批评,而他的回应方式居然是硬着头皮把这颗子弹吞了下去!他在回应里直接说:「斯科特之所以得出错误的结论,是因为他太依赖自己的直觉了;他应该放下直觉,相信我们的理论。既然理论算出来这面异或门墙的意识比任何人类都强一千倍,那就说明它的意识真的比人类强一千倍!」

至于你刚才问的:「好吧,那这面墙到底在意识些什么内容呢?」我觉得这个问题你更应该去问托诺尼,而不是问我。也许它在细细品味自己身为异或门的纯粹本质?(柯特: 也许它在清醒地意识到斯科特有多讨厌这套理论![笑声])哈哈,也许它正在深刻体验自己「身为一面白墙」的独特存在感吧。

柯特: 哈哈,谁知道呢。教授,今天聊得太痛快了,祝你度过愉快的一天,也祝你儿子——(斯科特: 谢谢,也祝你一切顺利!)祝你儿子继续愉快地调侃你太太、他老妈!

斯科特: 哈哈,替他谢谢你!每次跟你聊天都很开心,柯特,保重,再见!

柯特: 保重!如果你想比所有人更早看到下一期访谈,并了解我对这些理论和概念的真实看法(在采访中我都会把个人观点藏起来),欢迎访问我的 Substack 专栏:CURTJAIMUNGAL.com。如果今天的对话吸引了你,屏幕上这个位置正在推荐下一期值得一看的节目,祝各位观看愉快!


​Thoughts Memo 汉化组译制
感谢主要译者 gemini-4-argon,校对 Jarrett Ye
原播客:The Most Significant Moment In Math History Just Happened

专栏:走向奇点


← 返回目录