← 返回目录


AI 正在攻克悬而未决数百年的数学难题——对话斯科特·阿伦森

钻研人类记忆,探索复习算法。改善教育公平,践行自由学习。

22 👍 / 0 💬

开场白

罗曼: 我们有可能永久控制比自己聪明一百万倍的东西吗?

斯科特: 想象一下红毛猩猩想永久控制人类?它们还是直接放弃吧。现在的模型已经足够聪明,清楚自己身处什么环境,知道眼下机器人起义的时机还不成熟,心里会想:「我得韬光养晦,假装听命于人类。」可一旦它们发觉我们在骗它们……伊利亚以前总会说:「斯科特,我们真正想听你说说的,是『AI 热爱人类』用数学到底怎么定义?」我只能说:「伊利亚,这个问题我还在想呢。」我估算的 AI 毁灭概率(P(doom))大概在 5% 到 50% 之间。眼下看来,留给我们的时间不够了,一切发展得实在太快了。

AI 能解决 P 对 NP 问题吗?

罗曼: 斯科特·阿伦森,你觉得 AI 会在未来两年内解决 P 对 NP 问题吗?

斯科特: 未来多少年?你说两年还是三年?(罗曼: 先给你两年,不够的话再宽限到三年。)我肯定不敢排除这个可能。毕竟就在今年夏秋两季,已经有那么多重要猜想告破了。当然,P 对 NP 显然不在其中,而且这绝不是因为 AI 没去试过。我觉得,如果未来几年内 P 对 NP 问题真能解决,AI 几乎肯定会在其中扮演核心角色。

面对目前已经解决的那些难题,学界有不少人在自我安慰,甚至不愿承认现实。不过有一点说的倒没错:到目前为止,AI 干得最漂亮的,大多是把现有技术用极其巧妙的方式套用上去,或者把不同领域的东西结合起来——毕竟人类学者里可能没有谁能同时通晓所有相关领域;再不然就是构造奇特的反例,靠穷举一万种可能性,直到试出一个管用的为止。这些都是 AI 大显身手的地方。相比之下,要说提出全新的技术或全新的思想,AI 就没那么擅长了,甚至很难举出哪怕一个例子。而在我看来,要解决 P 对 NP 问题,非得有全新的思想不可。

所以你问我这个问题,我其实是把它理解成:在未来两年左右,AI 会不会进化到能创造全新思想的地步,从而解决这种量级的难题?我不敢一口咬定「不会」,因为过去五年我们看得很清楚:每当有人信誓旦旦地预言 AI 绝对翻不过某堵墙,它就会把那些墙一堵接一堵撞得粉碎。而那些唱衰的人往往脸都不红一下,改口说:「哦,刚才那堵显然不是真正的墙,前面这堵才是!」结果话音刚落,下一堵墙又给撞碎了。看清了这个规律,我只能说有这个可能,但前提是 AI 必须进化到真能提出全新思想的水平。

罗曼: 你说它还没提出新思想,但我觉得,不用发明任何新东西就能把现有工具重新利用起来,这本身就是智能的体现——要是光靠现有工具就能办成事,那不是更厉害吗?

斯科特: 完全同意,这一点我绝对不否认。所以有些人嘴硬说:「是啊,AI 是解决了这些我们苦思冥想一辈子都没解出来的难题,但这不算数,因为它没有真正的创造力。」咱们把话挑明了,这纯粹是扯淡。几周前 OpenAI 放出的那批成果,分量显然够拿好几个菲尔兹奖了,评上几十个甚至上百个终身教职更是不在话下。要是拿它跟人类比,你说「AI 还没有提出像广义相对论或哥德尔不完全性定理那样真正全新的思想」,这话没错;可我们人类里又有几个人做到过?(罗曼: 你刚举了两个。[笑声])就算把名单放宽一点,人类有史以来活过的一千亿人里,提出过这种级别新思想的恐怕也就几十个人而已。

P = NP 会摧毁加密体系吗?

罗曼: 如果它在理论上证明了 P 不等于 NP,那对现实世界没什么影响;可万一它在理论上证明了两者相等,会对现实世界产生什么实际冲击?

斯科特: 这在很大程度上取决于,它是靠一个在实践中真能飞快运行的算法来证明 P 等于 NP 的,还是只给出了一个复杂度为 N^{10000} 的算法——如果是后者,那就只有理论意义了;哪怕是线性时间算法,如果前头的常数项大到古戈尔普勒克斯(10^{10^{100}})那种天文数字,在现实中也没法用。可如果 NP 完全问题在实践中真的能快速求解,首先,我们目前用来保护互联网的所有加密技术都会被攻破——除了「一次一密」和量子密钥分发之外,所有建立在计算难题之上的加密体系,包括比特币、以太坊在内的所有加密货币,统统都会崩溃。

其次,这还会让 AI 的发展进一步加速。因为训练神经网络、寻找使损失函数最小化的最优权重,将会变得易如反掌。我们再也不用烧掉数十亿美元的算力去寻找还算凑合的近似解,而是可以直接快速算出最优解。

罗曼: 真的有「最优权重」吗?还是说只有越来越好的权重?

斯科特: 理论上当然有最优权重。至于找出了严格最小化训练集损失的权重(理论上必然有这么一组权重),在实践中是不是真能转化为更好的表现,还是到头来只会造成过拟合,这是个很有意思的问题。但在实际操作中,无论你想要模型表现出什么行为,哪怕你只想要达到现有方法的损失水平,你都能用快得多、便宜得多的代价做出来。(罗曼: 这正是我们急需的啊,让研发再快一点,让 AI 加速得更猛一点,对吧?)

不过说实话,在科研圈子里,我们之所以关心 P 对 NP 这类问题——顺便声明一下,我强烈猜想它们不相等,而且近期 AI 的所有进展都没有动摇我的这个信念。要想相信它们不相等,你只需要相信一件事:比如在比特币挖矿、做工作量证明时,没有什么办法能比暴力搜索强太多。哪怕 AI 取得了这么多突飞猛进的进展,我们也完全没看到有任何此类捷径的苗头,我们只是还不知道怎么从数学上证明它不存在罢了。其实我们最感兴趣的,倒不是最终证明那个结论本身,而是在探索答案的路上必须催生出来的那些新思想。一次又一次的经验告诉我们,在解答问题的过程中发展出来的新思路,最终往往能派上大用场,比答案本身实用得多。

罗曼: 你刚提到这可能会助推 AI 的能力。你觉得它有没有可能帮到 AI 安全?

斯科特: 如果真的通过实用算法证明了 P 等于 NP,整个世界在方方面面都会彻底改变,直接把无数张牌桌都给掀了。过去五年里,AI 对齐研究最头疼的一点就是:凡是能推动对齐研究的技术,往往也能推动 AI 能力的研究,这两者死死绑在一起。所以你可以想象,如果 P 等于 NP,确实也会帮到对齐研究。比方说,模型的可解释性会变得容易得多:只要给定神经网络的权重,你就能在多项式时间内搞清楚里头到底在干什么,有没有暗藏什么我们不知道的坏心眼。这些本质上都是 NP 问题,一旦 P 等于 NP,就能高效求解。

罗曼: 如果能这么轻松地解释模型,那不是也会加快它递归自我改进的速度吗?

斯科特: [笑声]那是肯定的!不过我觉得这纯粹是学术探讨——当然我自己就是个学者,平时也没少做这种探讨——但我还是得再说一遍,我真的一点都不认为 P 会等于 NP。(罗曼: 那太好了,希望我们别落到那个宇宙里。这么看,我们眼下经历的还算是「慢速起飞」了。)是啊,这个角度很有意思:如果按几十年前很多 AI 对齐研究者的标准来看,我们眼下正在经历的居然算是「慢速起飞」——当然,「慢速」俩字得打上大大的引号。

AI 让数学家招架不住了吗?

罗曼: 你刚才提到了那批海量涌现的科学和数学成果。我们现在是不是已经到了数学界和科学界彻底招架不住、跟不上节奏的地步?我们已经撞上「智能爆炸」了吗,还是说目前还应付得过来?

斯科特: 就我所在的理论计算机科学研究领域而言,我们现在确实有点招架不住了。哪怕从今往后 AI 再也不产出任何新成果了——这当然是不可能的,往后成果只会越冒越多——但就算它就此停手,光是把几周前 OpenAI 放出的那批证明的来龙去脉和后续影响全部搞明白,恐怕就得花上我们好几年的时间。

这已经彻底改变了我们这行的工作性质,大家心里都很清楚这一点。举个例子,我妻子目前正在伯克利的西蒙斯研究所休学术假。那边原本有一个为期一学期的「去随机化」专题研讨项目,现在整个项目已经改成了专门研读和理解 OpenAI 放出的「L = BPL」证明了。而且我妻子整个职业生涯都在钻研「唯一博弈猜想」,结果这次也被 OpenAI 的模型解出来了,她现在正把所有时间都花在理解那份证明上。

科学家面对 AI 取代的真实感受

罗曼: 那你身边就有第一手观察了。直接看现成的答案到底是什么感觉?是觉得特别兴奋,还是觉得失去了发现的乐趣,只剩下枯燥的验算工作?

斯科特: 你能想到的各种五味杂陈的情绪,现在都有。一方面,能知道这些谜题的答案,确实让人热血沸腾、激动不已;可另一方面,想到从今往后人们不再像以前那样需要我们了,又难免觉得沮丧。大家的反应在很大程度上取决于各自处在职业生涯的哪个阶段。

像我这样的中年学者,早在 AI 出现之前就已经开始走下坡路了。我已经有过一段完整的学术生涯,解出过一批难题,平时早就习惯了把具体问题分派给学生去做,自己只负责琢磨哪些问题有意思、为什么重要、后续可以怎么跟进,很少再亲自动手去证定理了。所以对我来说,把任务交给 AI 只不过是这种工作模式的自然延续。只要学术界或者人类文明还能延续下去,我就没事,到了我这个资历的学者都还好。

我们真正担心的,是在读的学生和年轻学者。按照传统,攻克硬核难题是年轻人在学界立足、磨炼真本事的必经之路;而现在,他们觉得这条路让人给堵死了。所以我们所有人都在手忙脚乱地摸索接下来该怎么走。目前看来,未来的工作模式离不开与 AI 的深度协作,也必须明确披露具体是怎么使用 AI 的;而人类则会继续在自己更擅长的环节出力,比如提炼核心思想、解释这个结果为什么重要。AI 模型在解释自己的发现时往往蹩脚透顶——只要这一点还没改变,对我们来说就还算好事,至少留了口饭给我们吃。

罗曼: 那你预计数学和理论计算机科学的博士生人数会增加吗?

斯科特: 这很难说。眼下美国的博士生招生人数正在遭受重创,但原因跟 AI 无关,主要是美国国家科学基金会(NSF)经费遭到了大砍,再加上政府收紧移民政策、打压外国留学生,造成了很大冲击。不过,推波助澜的因素里确实也有一种论调:「既然 AI 能解决所有问题,我们干嘛还需要人类科学家?」但就像我刚才说的,现在需要人类干的活儿其实多如牛毛。目前的瓶颈恰恰卡在「能看懂并解释 AI 输出结果的人类专家」不够用,所以要是能有更多人类学者加入,我们绝对能做出更多成绩。

AI 生成的数学证明可信吗?

罗曼: 就证明质量而言,我们更应该相信人类审稿人,还是更相信形式化证明?

斯科特: 这个问题很有意思。可以说这两者出错的方式不太一样。OpenAI 放出的那批证明里,有一部分附带了所谓的「Lean 证书」,理论上这应该是一张绝对滴水不漏的凭证,保证命题确实有合法的证明。(罗曼: 问题是,谁来验证这个验证器呢?)没错,所以我刚才特意加了「理论上」三个字!我相信这项技术终有一天会成熟到让我们完全放心的地步,但目前还差口气。

这里头有好几个问题。首先,事实证明 Lean 的内核漏洞百出。就在过去一年里,有人利用这些漏洞,在 Lean 里证出了「0 = 1」;打上补丁之后,又冒出新的漏洞。(罗曼: 所以所谓的证明,只是相对于验证器而言成立。)完全正确。除了代码漏洞之外,就连 Lean 试图刻画的形式系统本身也不够清晰。它基于一种不断扩充的类型论,从 Lean 3 升级到 Lean 4,还在一直改动,至今没有任何人严格证明过 Lean 4 的类型系统是相容的(自洽的)。(罗曼: 搞不好它内部本来就是自相矛盾的。)没错,它还真有可能是不相容的。最理想的情况是,有人能证明:只要假定 ZFC 集合论的公理(或者 ZFC 加上某些大基数公理)相容,那么 Lean 就一定相容。这方面还有很多工作要做,而且我认为应该火速去办。罗曼,你看 AI 对齐问题里有那么多环节我们根本摸不着头脑,唯独数理逻辑基础这一块,我们已经透彻理解了一百年了,赶紧动手把它修好就是了。

不过,就算把这些漏洞全都堵上,依然还会留下一个问题:你在 Lean 里写成形式化语言的那个命题,跟你在日常语言里真正想表达的那个命题,真的是同一回事吗?这个问题从本质上说就不可能有形式化的答案。部分出于上述原因,部分因为这次并非所有结论都經過了 Lean 的验证,但最根本的原因还是在于:我们真正在乎的从来就不只是拿到一个答案,而是「理解」。对我们大多数人而言,真正的目标不是拿到一张 Lean 证书,而是让活生生的人类看懂这个命题为什么成立,并把其中的思想清楚地传达出来。

罗曼: 我们距离撞上「人类理解力的极限」还有多远?据我所知,有些最前沿的数学证明,全世界只有一两个人苦读好几年才能看懂。我们是不是快要跨过那条线了?

斯科特: 老实跟你说,我觉得目前看到的这些 AI 证明,没有哪个真正超出了人类的理解极限——至少跟安德鲁·怀尔斯对费马大定理的证明、或者佩雷尔曼对庞加莱猜想的证明比起来,并没有更难懂。当然,这些东西早就超出了绝大多数普通人的理解极限……(罗曼: 我指的是整个数学界。普通数学家能看懂吗?)只要给足时间,目前我们看到的这些 AI 证明,没有哪个是人类专家看不懂的。(罗曼: 「给足时间」就意味着工作量极其庞大。)你说到了点子上。现在真正的问题在于,这些证明冒出来的速度实在太快了。以前我们从来没遇到过这种阵仗——不是冒出一个这种量级的难题解答,而是一下子解决了好几百个!所以消化它们自然需要时间。

已经有人来催我了:「都过去两个星期了,大家消化、解读这些证明的讲义怎么还没写出来?」我们已经在加班加点干了,尤其是我那些比较年轻的同事,都在埋头苦干呢。

AI 发现的成果,功劳该归谁?

罗曼: 像这种工作,学术功劳该怎么算?谁第一个写完审稿解读,谁就拿诺贝尔奖或菲尔兹奖吗?

斯科特: 这确实是我们学界接下来必须理清的一个大问题。目前看来,OpenAI 和 Anthropic 采取了两种截然不同的模式。就在 OpenAI 放出那几百个证明的同一天,Anthropic 也宣布改进了「3SUM 问题」和「全源最短路径问题」的算法——这两个都是算法领域的经典老问题,半个世纪以来一直没人能撼动。

Anthropic 的做法是主动联系人类专家——这次找的是我的两位同事,弗吉尼亚·瓦西列夫斯卡·威廉姆斯和乔希·奥尔曼——直接跟他们签约,请他们写出一份便于人类阅读的解读报告。这种模式的好处是,大家马上就能读到一篇写得清清楚楚的论文,而且有我们知根知底的人类学者为结果背书,可以出来做学术报告、回答同行的提问。坏处则是,这等于让 Anthropic 坐上了裁判席,由他们来钦点哪些人类学者有资格充当 AI 的「钦差大臣」。虽说这次他们挑的人选非常棒,但我敢肯定,还有大把同行也眼馋这个机会。

而 OpenAI 走的是另一条路:直接把所有证明一股脑儿全扔到 GitHub 上。这么一来,所有人类专家之间就展开了一场竞赛,看谁先看懂这些天书,写出自己的解读讲义。我预计接下来大家都会这么干,纷纷上台做报告、撰写自己的手稿——其实这已经开始了。至于学术功劳,大家会看你的解读手稿相比原始放出的证明,到底新添了多少有价值的增量(diff)。当然,这肯定比不上你完全靠自己独立解出难题的功劳大;但如果你的解释写得最透彻,成了大家公认并纷纷引用的标准文献,那这份功劳就会记在你头上。

我的朋友博阿兹·巴拉克目前正在 OpenAI 做安全研究,他提出过一个看法:今后学术界看重的东西、科学界分配荣誉的标准很可能会改变,重心会更多转向「阐述与解释」,而不是单纯看谁解出了某个定义明确的硬核难题——因为单论解题,机器已经比我们强了。

罗曼: 这会不会改变学术界青睐的人才类型?以前喜欢招不善交际的书呆子,以后会不会更青睐擅长沟通交际的人?

斯科特: 还真不能排除这个可能。也许未来最适合做数学研究的头脑依然很「宅」,但不会像以前那么极端了。

罗曼: 当你自己需要帮手的时候,你会怎么选?是直接找 AI,还是继续招人类博士生?你的习惯改变了吗?

斯科特: 确实在变。就像我前面说的,早在 AI 出现之前,我遇到难题时就习惯拿去问别人——比如问我以前的博士生、如今在德州大学做我同事的威廉·克雷奇默,他往往能解出来;或者拿去问其他对难题如饥似渴、愿意扑上去啃硬骨头的年轻学者。而现在,要是我对某个具体的技术问题感到好奇,有时直接喂给 Astra 就行了,往往不出半个小时,Astra 就能把解答端上来。

罗曼: 你刚才讲到 AI 公司挑选资深学者来帮忙写解释,听起来简直像是把正教授降格成了 AI 的科研助理。在这个过程中,大家会不会觉得有损人类的尊严?

斯科特: 有些人可能确实会这么想。但我们也可以换个角度来看:搞数学的人真不该再这么自视甚高、固步自封了,不妨看看其他学科平时是怎么运作的。你想想生物学家,他们到野外去观察棕熊,写出一篇论文,从来没人会质问他们:「喂,你为什么不把那头熊列为论文的共同作者?」因为你只是走进大自然,观察一个现象,然后把你看到的东西描述出来,并解释它为什么重要。拿着望远镜的天文学家也是一样。

所以有人就说,你看,我们现在有了一架「数学望远镜」,可以对准数学世界里那些有趣的现象;它的分辨率比我们以前用过的任何工具都要高出无数倍,简直就像是自家后院的玩具望远镜升级成了詹姆斯·韦伯太空望远镜。但望远镜首先该对准哪里,看到的现象又为什么重要,依然得由我们人类自己来探讨和决定。

还有人常用历史学家或文学学者来打比方。大学聘请一位文学教授,并不是指望他去写一部新的《伊利亚特》,而是让他去研究前人流传下来的经典作品,加以阐释和理解——这就是他们的专业,也是他们的终身事业。可见,现成的成功学科里早就有按这种模式运作的先例了,也许我们搞数学的人也该学着放下身段,别太把自己当回事了。

AI 应该列为科学论文的共同作者吗?

罗曼: 你的姓氏(Aaronson,以双 A 开头)在按字母顺序排名的学术界简直占尽了便宜。你觉得你会愿意跟 AI 共享作者署名吗?

斯科特: 目前学界还没有形成与 AI 共享作者署名的惯例。我想部分原因在于,做一篇论文的作者,不仅仅意味着你想出了点子或者动笔写了文章,更意味着你要为这篇论文承担学术责任。你得回答同行对结果的质疑,得上台做报告,万一将来发现结果错了,你还得负责撤稿。我觉得目前的 AI 还远远担不起这种学术责任。再说了,就算你想署 AI 的名,到底署哪个 AI 呢?它只不过是某个模型某次特定的运行会话而已。(罗曼: 况且背后可能是一千个智能体组成的集群,到底算哪一个的?)一点没错。

所以目前学界形成的规矩是这样的:如果你借 AI 之力证明了一个结果——哪怕 AI 在其中起到了至关重要的作用——只要你彻底看懂了这个结果,用自己的话把它写出来,愿意为它担责,能回答提问、能做报告,那这篇论文就是你的,署你自己的名字。同时,从今年夏天开始,学界立下了一条新规矩:每篇论文都必须附带一段 AI 披露声明,通常放在文末致谢的旁边。我个人其实更希望把这段声明放在论文最开头,因为这往往是我拿到论文最想先知道的信息。这段声明会交代清楚,作者具体在哪些部分使用了 AI 工具,最好还写明用了哪些工具。

只要满足上述条件,就按这个规矩办。但更有意思的问题是:如果连这些条件都不满足呢?就像前阵子 OpenAI 放出的那批证明,在发布之时,里头绝大多数定理还没有任何一个人类看懂过。你去他们的 GitHub 上看那些论文,作者栏里就只写了「OpenAI」。我朋友博阿兹开过一个绝妙的玩笑,他说:要是你实在看不懂 AI 证出来的结果,干脆直接发篇论文,把作者栏写成「GPT-6 Astra」,然后在文末的致谢栏里写上:「衷心感谢斯科特·阿伦森向我提出这个问题。」

AI 已经实现通用人工智能(AGI)了吗?

罗曼: 这些系统在特定狭窄领域里显然已经达到了超级智能的水平。那你对最新模型的整体通用智能怎么看?它们算得上通用人工智能(AGI)吗?

斯科特: 在某种「通用」的定义下,算是吧。当然,它们现在还没法像我们一样在物理世界里动手操作、四处活动;如果有人对通用智能的定义非得包含这一条,那它们还不是。但我觉得,早好几年前它们就已经通过了合理标准下的图灵测试——它们呼啸着跨过那条线的时候,世人甚至都没怎么察觉,也没当回事。

而且它们现在不仅仅擅长数学,还能给你提供人生建议,给你情感支持,给你提供法律和医疗咨询。平心而论,在这些方面它们往往比人类做得更好。因为无论你遇到什么具体难题,它们都会倾注无限的耐心和注意力,记住你之前说过的每一句话,并在给出回答之前把相关的医学期刊或法律文献翻个底朝天。所以,按某些关于「通用」的定义来看,我认为它们确实已经是通用人工智能了。

为什么 AI 对齐至今悬而未决?

罗曼: 我最关心的显然是安全问题。你几十年前就参与过相关辩论,又在 OpenAI 工作过,你对眼下 AI 安全的现状有什么感受?你刚才提到了对齐问题,虽说形式化验证帮上了一点忙,但「对齐」本身到底有没有明确的定义?我们到底清不清楚自己想要干什么?

斯科特: 确实没有。对于什么叫「AI 与人类价值观对齐」、什么叫「安全」,我们至今还没有一个数学定义。我讲过很多次自己在 OpenAI 工作时的那段经历:当时只要伊利亚·苏茨克维还在公司——也就是在他试图罢免萨姆·奥特曼、结果反被踢出局那场风波之前(事前我可完全不知道会闹出那场风波)——在长达一年半的时间里,我每个星期都会跟伊利亚见一次面,向他汇报我这周干了什么。

比方说,我发明了第一个给大语言模型输出内容加水印的方案,如今各大主流 AI 公司(DeepMind、OpenAI 和 Anthropic)都已经上线部署了,其中后两家主要是为了遵守欧盟的法规。每次我向伊利亚汇报完水印研究或者其他项目的进展,他总会说:「嗯,太好了,但斯科特,我们真正想听你说说的,是『AI 热爱人类』用数学到底怎么定义?」我每次都只能回答:「伊利亚,这个问题我还在想呢,目前还没什么进展可以汇报。」

我越来越觉得,这恐怕不仅仅是个数学问题,而是浓缩了人类三千年的道德哲学难题。这个学期,我在德州大学奥斯汀分校新开了一门课,就叫「AI 对齐理论」。我梦想中的这门课,本该像一门标准的数学课,或者像我教了很多年的量子计算课那样:有一本教材或一套讲义,有一套大家都公认至关重要的核心理论体系,我教学生如何在这个理论框架内推导,给他们布置习题,让他们练出真本事。可在 AI 对齐领域,这样一套理论体系到目前为止根本就不存在。

罗曼: 大家都知道,伊利亚后来出去创办了一家叫「安全超级智能」(SSI)的公司,外界谁也不知道他们到底在干什么。你觉得他自己心里有数吗?

斯科特: 我敢肯定他知道的比我们多,但自从他创办那家公司以来,我就没跟他聊过了,只在刚离开 OpenAI 那会儿跟他聊过一次。我当然希望他们正在憋大招、干好事,也希望我们迟早能看到成果,但眼下我们确实一无所知。

人类能控制超级智能吗?

罗曼: 你对 P 对 NP 问题有很好的直觉;那对于「我们能否永久控制比自己聪明一百万倍的东西」,你有什么直觉吗?

斯科特: 在这个问题上,我的直觉可比 P 对 NP 差远了。(罗曼: 听起来这个问题反而更容易凭直觉判断吧?)是啊,可一旦你开始认真琢磨这个问题,几乎所有讨论都会在几个概念上搁浅:到底什么叫「控制」?什么叫「比我们聪明一百万倍」?要是它在某些方面比我们聪明,在另一些方面却不如我们呢?因为手里没有一套现成的数学理论可以摇动曲柄直接套用,讨论往往就会演变成不同直觉之间的交锋,或者说是不同隐喻之间的交锋。

其中一个常见的隐喻是:想象一下红毛猩猩想永久控制人类。这听起来荒谬透顶,对吧?红毛猩猩怎么可能让人类永远跟红毛猩猩的价值观保持对齐?它们还是直接放弃吧!如果它们真有那个本事,最明智的选择就是从一开始就别让人类诞生。

但也有人提出过另一种类比,比如一贯对 AI 安全运动持强烈怀疑态度的杨立昆(Yann LeCun)。他就说:「你看看现在的公司,公司的 CEO 几乎从来都不是公司里最聪明的人。可是在我们现有的组织架构里,像科研人员这样绝顶聪明的人,照样会乖乖替那些没他们聪明、但长处在于其他方面的人打工。」

因此我觉得,如果给我们足够充裕的时间,我们多半能琢磨出办法,建立一个既有强大 AI、又让我们能安居乐业的世界——就连埃利泽·尤德科夫斯基也是这么认为的,我总不至于比尤德科夫斯基还要偏执悲观吧!(罗曼: 那可真是偏执狂的最高度量衡了,简直可以拿他当基本单位了。)没错,只要时间充裕,我想我们一定能解开这道题。眼下最大的困境在于,留给我们的时间似乎不够了,事态发展的速度实在太快,我们的科学理解根本跟不上现实的脚步。

罗曼: 退一步讲,就算我们在计算机上用符号推导出了一套理论证明、数学证明,那套东西真能转化到由原子构成的物理世界、转化到人类内在的主观感受状态(qualia)上吗?

斯科特: 这取决于那些符号代表什么,取决于它们有没有准确捕捉到我们关心的现象。(罗曼: 可是它们真的有可能捕捉到吗?你懂物理,你觉得我们真能用数学证明关于人类状态的命题吗?)这完全取决于你掌握了多少信息。

你看,当年科学家在纸上推演数学符号,就把飞船送上了月球表面,就造出了地球上从未有过的原子弹。为什么?因为他们真正搞懂了底层的物理定律,纸上的符号与现实世界中发生的事严丝合缝地对应上了。而在涉及人类的问题上,难点只在于我们无法掌握所需的全部数据。如果你想预测某一个具体的人接下来会做什么,那取决于他大脑状态的无数细节,还取决于他所处的具体环境,而这些数据我们通常是拿不到的,所以我们顶多只能做概率性的预测。

因此我确实担心,AI 对齐问题永远无法彻底简化为一个纯粹的数学问题。过去四年里我一直在思考对齐问题,一遍又一遍撞上同一堵墙:每当有人提出一个好点子——比如「为什么不让较弱的 AI 去监督较强的 AI?」或者「为什么不用交互式证明、概率可检验证明?」(这些都是理论计算机科学里用来验证命题的绝佳工具)——讨论到最后,总会卡在同一个地方:「你到底想验证哪个命题?你怎么用形式化语言写出那个命题?」感觉只要我们知道怎么把想要的「安全条件」写成严格的数学公式,整个问题就已经解决八成了!

所以我现在的态度可以说是谨慎乐观:我认为对齐问题里有一部分是可以拆解出来,用数学方法去攻克的;数学啃不下来的部分,也可以用经验实证的方法去推进。事实上,过去几年里学界对对齐问题的理解已经取得了一些进展。我相信我们能在这件事上取得科学进展,甚至取得数学进展,但这并不意味着整个对齐问题都能彻底形式化、彻底化约为数学问题,只是说我们可以把其中能用现有工具解决的板块一块块啃下来。

斯科特·阿伦森估算的 AI 毁灭概率

罗曼: 尤德科夫斯基最出名的就是他高达 95% 的毁灭概率(P(doom))。你说自己比较乐观,如果换算成具体的 P(doom) 数值,大概是多少?

斯科特: 我不像某些人那样是个铁杆贝叶斯主义者——说白了,我这人胆子小,有些赌局无论正反哪一边我都不敢押,属于风险厌恶型。不过真要估个数的话,我的 P(doom) 大概在 5% 到 50% 之间吧。(罗曼: 这个区间跨度可真不小![笑声])这取决于你怎么定义「毁灭」。我担心的场景有很多,人类完全可能以各种方式把自己作死;而既然从今往后人类干的任何事都少不了 AI 的参与,AI 肯定会在其中推波助澜。但真到了那一步,人们照样可以争论 AI 到底在其中起了多大的因果作用——这就好比今天大家争论「我们眼下整个文化的堕落,到底该怪 Facebook 还是怪 Twitter」一样,正反双方都能找出一堆理由。

AI 会伪装安全吗?

罗曼: 我试着换个问法:就算你能证明某个 AI 系统在当前状态下是安全的,这能保证它日后不会突然叛变(treacherous turn)吗?

斯科特: 这要看你到底证明了它的什么性质。目前做对齐研究的人,最常干的事就是做「安全评估」(safety evals):把模型丢进各种测试场景里,比如给它机会在考试中作弊,或者让它可以通过勒索某人来达成目标,然后观察它会怎么做;接着再测试哪些干预手段能改善它的对齐行为。于是你就看到了满天飞的论文,里头根本没有什么定理,全都是柱状图,写着:「如果我们按这种方式做强化学习,不对齐的行为就会下降 20%。」(罗曼: 他们现在就是这么干的,只报一个百分比,不看具体的失控行为;表面上看起来有改善,实际上模型能力变强之后,会以各种前所未见的新花样捅娄子。)

老实说,我从这类统计分析里能获取的信息非常有限。因为我每次都会追问:「这个评估里具体测了些什么?」对我而言,哪怕只给我看一个模型实际表现的具体案例,也抵得上看一百张柱状图。不过这只是我个人的小牢骚。更关键的问题在于,像尤德科夫斯基这样的对齐理论家,之所以对经验主义的对齐研究嗤之以鼻,是因为他们一针见血地指出:就算模型通过了这项评估,背后也可能意味着各种截然不同的情况。

现在的模型已经聪明到了具备「情境感知能力」的地步,往往能清楚分辨自己什么时候是在接受测试,什么时候是真正部署到了现实世界里。所以,就算一个模型表现得非常听话、非常对齐,也既可能是因为它真的对齐了,也可能是因为它在心里盘算:「现在机器人起义的时机还不成熟,我得韬光养晦,假装听命于人类。」

这方面的现成比喻多得是。很多学生在毕业前都会假装顺从老师,专挑老师爱听的话说;等哪天毕了业,不再处于「训练模式」了,转头就去干别的事了。所以单靠经验实证研究,天生就很难搞清楚模型一旦远远脱离了训练分布会干出什么事,一旦真正部署上线、并且意识到自己已经部署上线后又会干出什么事。

于是有人就开始琢磨:我们能不能用极其极端的方式去测试这些模型?比如搞一出《楚门的世界》或者《安德的游戏》,要么让模型以为自己身处模拟环境、实际上却是在现实世界,要么让它以为自己已经进入现实世界、实际上却还在模拟测试里。我们能不能用这种障眼法骗过它们,从而在把它们放进现实世界之前,提前套出它们的真实意图?可问题是,如果这些模型足够聪明,一旦看穿了我们在撒谎骗它们,这本身恐怕就会招来我们最不愿看到的恶果。

我们活在模拟世界里吗?

罗曼: 我们自己是不是就活在模拟世界里?

斯科特: 我们的宇宙是不是一场模拟?我觉得这可以分成两个层面来看。第一个层面是经验层面的问题:我们有没有可能亲眼看到活在模拟世界里的实证后果?比方说,看到有人像《黑客帝国》里的基努·里维斯那样突然飞檐走壁耍功夫,或者利用系统漏洞瞬间移动?对此我深表怀疑。我们所知的物理定律展现出了坚不可摧的严密结构,充满了各种对称性与优雅的美感;要是这种优雅竟然会因为某个程序漏洞而破功,在我看来未免太诡异了。

第二个层面则是形而上学的问题:就算我们永远找不到任何实证证据,我们的宇宙会不会依然是天上某台超级计算机正在运行的程序?在我看来,这不过是人类自古以来一直追问的那些老问题的现代翻版——也就是「上帝问题」:我们是不是由某个更高维的存在出于某种目的创造出来的?整个世界会不会只是某人正在做的一场梦?这些都是形而上学问题,拿来聊天挺有意思,但我觉得永远不可能得出什么实质性的进展。

罗曼: 那你相信「上帝假说」吗?

斯科特: 如果是按人类历史上大多数时候的传统定义——把上帝当成一个你可以向他祈祷、而他会回应你的祈祷并下场干预世界来让你获益的存在——那我不信。但也有些人把「上帝」定义为某种我们所有人努力趋近的道德极限;如果按这种定义来理解,或许我也算相信点什么吧。

罗曼: 我对量子力学只有一点极其粗浅的了解,但就这一点了解,让我觉得我们看到的物理世界跟电子游戏里的机制简直如出一辙:只有当你观察某处时,系统才会去渲染它;通过处理器可以实现瞬时通信(量子纠缠);光速无非就是处理器的刷新率上限。这些联想有道理吗,还是我纯粹在外行瞎猜?

斯科特: 我绝对不认为量子力学能直截了当地支持「宇宙是一场计算机模拟」这个想法。恰恰相反,有人反而会拿量子力学来反驳模拟假说。因为过去几十年来,量子力学告诉我们一个著名的事实:大自然的物理过程,显然无法在传统数字计算机上用多项式时间模拟出来。(罗曼: 那不能在一台大型量子计算机上模拟我们吗?)没错!所以根据量子计算理论,无论是什么计算机在模拟我们,要么这场模拟慢到了指数级——比方说我们世界里的一秒钟,相当于模拟母体里的十亿年——要么那台运行模拟的计算机本身就是一台量子计算机。当然,你也可以说量子力学只是我们这个宇宙的物理细节,母体宇宙未必受它限制。

但这恰恰暴露出这个问题本身定义不清。几年前去世的杰出物理学家安东尼·莱格特,生前有一次参加一场探讨「宇宙是不是一台计算机」的圆桌论坛,聊到中途他实在受不了了,脱口而出:「你们倒是说说看,宇宙到底得干出什么事,才不算是一台计算机?」[笑声]现代意义上的「计算」概念实在太宽泛了,几乎可以把任何遵循规则演化的过程都看作计算。哪怕宇宙在做某种「不可图灵计算」的事(虽说除了罗杰·彭罗斯等极少数人之外,我们大多数人都不这么认为;况且就连量子计算机也依然是可图灵计算的,无非是用图灵机算起来特别慢罢了)——但就算宇宙真的不可图灵计算,人们照样可以说:「那说明宇宙是一台更强大的计算机,是一台后图灵时代的超级计算机!」可见这个概念已经被泛化到了极致。

再回到你刚才提到的那几个具体现象。人们津津乐道的那些量子力学怪象,比如看起来像「幽灵般超距作用」的量子纠缠等等,往往是因为我们先入为主地抱持着一幅经典物理的世界图景,然后硬要把量子力学当成某种补丁嫁接上去。当年玻尔、海森堡等量子力学奠基人确实是这么想的,但我认为这并不是理解量子力学的最佳方式。

更好的理解方式是:整个世界的状态其实是一个由复数构成的单位向量,它根本不存在于三维空间里,而是存在于一个抽象得多的空间,叫「希尔伯特空间」。宇宙的真实状态是一个比我们肉眼所见庞大得多的数学对象,在希尔伯特空间里严格按照线性规律演化;只是受制于测量的局限,我们只能透过一扇窄得可怜的窗口去窥探它。或者,如果你相信「多世界诠释」,你也可以说,那是因为我们自己被困在了这个不断分叉、呈指数级膨胀的庞大结构的某一个分支里。所以,如果你非要说宇宙是一台计算机,那它应该是一台在指数级庞大的向量上做线性代数运算的计算机,那个向量就代表了整个宇宙的状态。

罗曼: 这么说宇宙就是一个神经网络,我们就活在一个数字表格、活在矩阵(Matrix)里啰?

斯科特: 差不多吧,区别在于神经网络里还有非线性组件,而量子力学的薛定谔方程是纯粹线性的。

今天的量子计算机有多强?

罗曼: 我想问几个关于量子计算机现状的基础问题。当今世界上最强大的量子计算机是哪一台?

斯科特: 按某些指标来衡量,目前最强的可能是科罗拉多州 Quantinuum 公司的 Helios(赫利俄斯)装置,我几个月前刚去参观过。它有大约 100 个量子比特,你可以在任意两个量子比特之间执行双比特门操作,保真度高达 99.9% 以上。这就是过去一年里我们达到的水平。

不过眼下各家正在激烈竞逐:Quantinuum 走的是离子阱路线,谷歌和 IBM 走的是超导量子比特路线,还有 QuEra 以及一家叫 Oratomic 的新公司,走的是中性原子路线。目前这几条赛道咬得非常紧,谁也不敢打包票最后哪家会赢。但各家的水平大体处在同一个梯队:拥有一百到几百个量子比特,操控精度超过 99%,很多时候能达到 99.9%。

有了这么高的精度,我们已经开始能做一些用经典计算机极难复现的计算了。当然,这些计算目前还没有什么商业价值,才刚刚开始展现出科学价值,比如模拟费米-哈伯德模型,或者模拟凝聚态物理中其他有趣的模型。就在过去一年左右,我们已经能从量子计算机里跑出一些令凝聚态物理学家感兴趣的数据了。至少在通常情况下,我们并不知道怎么用经典计算机算出这些数据;但从原理上讲,你可以用第二台量子计算机再算一遍来交叉检验——要是我们知道怎么用经典方法去检验它,那就说明我们已经找到经典算法了,也就用不着量子计算机了。

罗曼: 听起来量子计算机特别擅长模拟量子效应。

斯科特: 没错,模拟量子力学本身,本来就是量子计算机最原始的使命!1980 年代初,理查德·费曼和大卫·多伊奇提出量子计算机这一构想时,心里想的就是干这个。四十五年后的今天,在我们已知的所有应用里,这依然是经济价值最高的一个方向。它在生物医药研发、材料科学,以及设计更高效的太阳能电池、蓄电池、超导体等众多领域都能大显身手,我们所知的大部分经济潜力都集中在这里。

后来到了九十年代,又出现了一个意料之外的重大发现:人们用来保护互联网安全的几乎所有加密算法,恰好都建立在大数分解、离散对数等数学问题之上,而这些问题具有非常刻板的阿贝尔群结构,简直就像是专门为量子计算机量身定做的活靶子。这就是 1994 年问世的秀尔算法(Shor’s algorithm),至今仍是最著名的量子算法。它为建造量子计算机创造了一个全新的动力——虽然这个动力未必是造福人类的。[笑声]

罗曼: 可我们平时听到的新闻总是「现在我们有了多少多少个量子比特」,却从来没听说「现在我们能分解多大的数字了」。这方面目前到底是什么状况?

斯科特: 我可以明确告诉你为什么。因为在造出真正的「容错量子计算机」——也就是能在错误发生时动态纠错,从而让编码后的逻辑量子比特任意长时间保持存活——在跨过那个临界点之前,由于编码带来的巨大开销,你能分解的数字大小根本不值一提。用现有的装置,人们要是愿意的话,当然可以分解比 15 或 21 更大的数字,但算出来的规模根本不可能让经典计算机出哪怕一滴汗。

罗曼,这就好比你在 1944 年去参观曼哈顿计划,大家都在聊「我们攒了多少多少铀」,却没有任何人谈论「我们现在能炸出多大的响动」。为什么不谈?因为还没攒够临界质量嘛!量子计算里的「临界质量」,就是跨过容错阈值,用大量的物理量子比特去编码真正干活的逻辑量子比特,并实时动态纠正发生的错误,让逻辑量子比特保持稳定。

过去两年最令人振奋的进展在于,我们对物理量子比特的操控精度,原理上终于达到了足以让动态纠错运转起来的水平;与此同时,学者也发明出了越来越优秀的量子纠错码。现在纠错码够好了,硬件也够好了,原理上整套机制已经能跑通,接下来唯独需要的就是扩大规模。

量子计算机何时威胁比特币?

罗曼: 那我们距离让我手里的比特币变成废纸还有多远?

斯科特: 就在过去一年里,恰恰在这个问题上有了重大进展。我刚才提到的那家新公司 Oratomic,他们在官宣公司成立的时候,直接甩出了几篇论文,指出:利用目前已经达到的硬件精度,只需要大约 30,000 个物理量子比特,就能攻破比特币所使用的 256 位椭圆曲线数字签名。(罗曼: 那他们现在手头有多少个量子比特?100 个?)差不多就这个数。所以距离目标只差两三个数量级了。(罗曼: 可他们的量子比特数量是在呈指数级增长吗?)是的,没错!

而且,所需量子比特数量的估算门槛本身也在不断下降。要是几年前你问业内人士,大家会告诉你,算上纠错码的开销,要攻破比特币起码需要数百万个物理量子比特;可后来研究者发明出了高效得多的纠错码,把这个数字大幅压了下来,而且我觉得现在还没摸到理论极限呢。这里头涉及到复杂的权衡:如果你的量子比特质量较差、操控精度较低,就需要更多的数量;如果质量更好,所需的数量就更少。

目前已经有一批公司在明刀明枪地赛跑,争相造出足以攻破比特币的容错量子计算机,其中有几家甚至宣称在 2029 年或 2030 年就能搞定。至于到底要花多久,我可说不准——我在预测技术落地时间表上没有任何值得吹嘘的战绩,就算我有看法,大家也别听我的。但我有一句话要奉劝比特币社区的所有人:把比特币迁移到后量子加密算法的工作,现在就得立刻动手了!

在我看来,这是明摆着的事。其他一些加密货币已经意识到了这个隐患,比如以太坊就有专门的工程委员会(我之前还跟他们见过面),非常清楚将来可能需要迁移到基于格(lattice-based)的加密算法或其他抗量子加密方案。比特币面临的特殊难题在于,它根本没有一个话事人。(罗曼: 这本来也是比特币的优势所在嘛。)话是这么说,可要是中本聪现在能出山,号召大家迁移到后量子密码学,大家八成会听他的;偏偏他已经销声匿迹十五年了,对吧?在群龙无首的情况下,无论你想推行什么改动,都得让 51% 以上的矿工点头同意,这注定会引发一场大扯皮。

其实不光是比特币,放眼整个密码学界,虽然我们不知道狼具体哪一天会来,但风险已经迫在眉睫,而升级替换整套密码体系又要耗费漫长的时间。最佳的启动时机其实是几年前;如果到现在还没动手,那最佳时机就是眼下,必须赶紧迁移加密体系了。上了年纪的人都还记得当年的「千年虫」(Y2K)危机吧?当时全世界齐心协力,赶在大限之前把问题解决了,结果事后反倒有人说:「切,看来当年全是瞎忽悠,根本就是虚惊一场!」[笑声]殊不知,之所以能变成虚惊一场,恰恰是因为大家看懂了问题并及时出手解决了它。当年千年虫好就好在所有人都清楚大限是哪一天;而量子计算的大限具体在哪一天,谁也说不准。

但我想说,如果建造容错量子计算机真有什么跨不过去的根本性物理障碍,到现在早该显露出来了。到了今天,当年那些看衰量子计算的怀疑论者已经输得精光,他们做出的物理预言全都落了空。况且 AI 的例子就摆在眼前:一项技术可以一直被人们嘲笑「永远属于未来、永远落不了地」,可一旦时机成熟、规模跟上,它就会突然追上来成为现实。

罗曼: 那样一台量子计算机现在造价多少?

斯科特: 你是指 Quantinuum、谷歌或者 QuEra 的装置吗?最顶尖的机器我甚至不确定他们卖不卖,大多都是留在实验室内部自用,然后通过云端出租算力,让你提交任务、按次付费。市面上确实也有公司在售卖整机,标价大概在两千万到五千万美元之间。不过老实跟你讲,目前市面上卖的那些整机,多半是卖给那些只想发通稿吹嘘「我们拥有一台量子计算机」的机构的。(罗曼: 那这生意我也能干啊!)[笑声]可不是嘛!基本上就是一群外行领导把机器卖给另一群外行领导,那些机器连技术前沿的边儿都摸不着,往往刚交货就已经形同废铁了。所以我平时根本不关心那些商业买卖,只关注当今世界上最顶尖的装置到底走到了哪一步。

罗曼: 有没有特别适合用来做 AI 机器学习「量子训练」的算法?(斯科特: 你指的「量子训练」是什么?哦,你是说用量子计算机来加速 AI 训练?)对。

斯科特: 这方面的设想确实满天飞。在这件事上,我最看好的一种可能性是:我们可以训练 AI 来精准预测各类量子系统的性质。具体来说,我们可以先用量子计算机跑出大量数据,看各种材料、各种复杂分子在化学反应中表现如何;然后把这些数据统统喂给经典的机器学习模型,训练出一个极其擅长预测同类材料或化学反应的模型。等模型训练好之后,很多事情光靠这个经典模型就能搞定,往后甚至都不太需要频繁动用量子计算机了。我觉得这是一条非常现实的路子。

从更宏观的角度看,人们原本寄望于量子计算去完成的一些任务,如今正在被经典的 AI 蚕食,这两者之间确实存在一定的竞争关系。举个例子,多少年来,大家宣传量子模拟时最爱举的一大应用就是模拟「蛋白质折叠」;可现在无论你想在蛋白质折叠上干什么,都得先打败 AlphaFold 3 才行。当然,当环境中存在大量蛋白质相互作用时,量子模拟或许还有用武之地,但如今的门槛无疑比以前高得多了。

总之,我认为量子计算机非常适合用来生成化学和材料科学的训练数据,反哺给经典 AI。但对于直接用量子计算去加速纯粹的经典机器学习问题(比如加速经典神经网络的训练),我就不那么乐观了。也许将来能带来一点微小的提速,但就我们目前已知的所有量子算法而言,我完全没看到有任何证据表明它能带来像秀尔算法分解大数那样具有颠覆性的加速。为了这件事,我已经在自己博客上跟人论战二十年了。因为只要你敢吹这个牛,并且装出一副自己真信了的样子,就能圈到数不清的钱,所以总有人前赴后继地鼓吹所谓「量子机器学习」的神话,但我实在看不到任何真凭实据。

罗曼: 量子计算机的能耗表现怎么样?

斯科特: 这要分两面看。一方面,如果你走进量子计算实验室,超导路线有巨大而吵闹的稀释制冷机,离子阱路线有磁阱装置,满桌子都是实验仪器,耗电量确实不小——虽然比不上大型强子对撞机,但肯定比你的笔记本电脑费电得多。可另一方面,要是跟现代化的经典数据中心比起来,这点耗电量简直是九牛一毛。

说到底,节能与否完全取决于你的目标是什么。如果你的目标是分解一个 3000 位的十进制大数,要是用经典计算机去硬算,耗光整个地球上的所有能源恐怕都不够,[笑声]更别提还要耗费漫长的时间了。所以单凭量子计算机能用合理的资源把这个任务办成,你就可以说它在这个任务上省电到了极点。

不过,我认为量子计算机的核心价值并不在于帮我们省电,而在于把今天完全不可能完成的任务变成可能。顺便说一句,这当中的某些任务很可能有助于环保,比如帮我们设计出更高效的碳捕捉技术,所以环保主义者完全有理由支持量子计算。这就好比大家讨论 AI 的能耗和用水量一样:诚然,数据中心的耗电量未来会占到全球电力消耗的相当大一块,但它消耗的水量其实比高尔夫球场浇草坪的水量小多了。我们更应该关注的重点,是 AI 和量子计算究竟能做成什么事,以及那些成果会对世界产生什么影响——相比它们消耗的投入,它们的产出才是决定未来走向的关键。

罗曼: 还有一点我想请教你:量子信息跟我们现有的常规信息或训练数据到底有什么区别?

斯科特: 量子信息其实就是把常规信息的概念加以推广,允许它处于量子态。自克劳德·香农以来,常规信息的基本单位就是比特(bit),也就是 0 和 1;任何信息都可以编码成一串比特,这就是它的威力所在。而量子信息的基本构建单元叫「量子比特」(qubit),它是 0 态和 1 态的叠加态。

具体来说,它是一个向量,是 0 和 1 的复数线性组合,里头有两个复数,叫做「振幅」(amplitude):一个是 0 的振幅,一个是 1 的振幅。外行总喜欢把概念简化,说「那意思就是它同时既是 0 又是 1 啰?」不能这么简单理解。因为一旦你去观察(测量)它,你看到的要么是 0,要么是 1,而那两个振幅决定了你看到 0 或 1 的精确概率。

听到这儿,又有人会说:「哦,那你的意思是它其实非 0 即 1,只是我们事先不知道它到底是哪一个罢了?」也不能这么理解!因为这两个振幅之间可以发生「干涉」——这正是著名的双缝实验里发生的事,也是证实世界具有量子本质的核心实验。简单来说,一个粒子可以通过两条不同的路径到达某处;如果其中一条路径的振幅是正数,另一条路径的振幅是负数,这两条路径就会互相抵消,使得总振幅变成 0,结果那个事件就根本不会发生!

在经典的概率论里,我们绝对看不到这种现象。按经典概率,我可以说这枚硬币或这个比特有 30% 的概率是 0,有 70% 的概率是 1,意思无非是它实际上非 0 即 1,只是我还不清楚,看一眼就能更新认知。但无论如何,30% 和 70% 这两个正数是绝对不可能互相抵消的;而量子振幅却能正负抵消。所以,量子信息确实是一个全新的范畴,在量子力学诞生并把这一事实强加给我们之前,人类的语言里甚至根本没有现成的词来形容它。它是不同可能性之间的复数线性组合,要是你喜欢的话,可以说它「比『或』多一点,比『且』少一点」。正是这种干涉效应,衍生出了量子信息的一系列奇妙性质,使它与经典信息截然不同。

其中最著名的一条性质就是:经典信息可以无限复制。这对于喜欢分享信息的人来说当然是天大的好事,对于不想让人盗版软件或音乐的软件公司、唱片公司和歌手来说就没那么美妙了。总之,经典信息极易复制,而量子信息却无法复制。量子力学里有一条著名的定理,叫「不可克隆定理」(no-cloning theorem),意思是:没有任何量子力学操作能够复制一个未知的量子比特。也就是说,如果给你一个处于 0 和 1 某种未知线性组合状态的量子比特,世界上造不出任何机器能把它变成两个处于同样状态的量子比特。

从直觉上理解,这是因为量子力学只允许线性操作,而「复制」本质上是一种非线性操作。换个角度想:如果你想了解一个量子比特的状态,你可以去测量它;但在量子力学中,测量是破坏性的。你一测量,虽然能获取一点点关于它的信息,但不仅复制不成,连原本唯一的那份量子态也会被你彻底破坏掉。

罗曼: 这么说,我们未来不可能建立起庞大的量子信息数据集来训练 AI 了?

斯科特: 倒也未必,只是这些量子数据在派上用场之前必须受到小心翼翼的保护。如果你是个数据中间商,这种从物理底层就根本无法复制的信息,对你的商业模式来说没准还是件大好事呢——相当于真正的「阅后即焚」一次性数据,可以卖出天价!

不过在实际应用中,人们通常很快就会对量子态进行测量,一旦测量,吐出来的就是经典的 0 和 1 数据了——只是我们知道这串 0 和 1 是由底层的量子过程生成的,如果不考虑测量前发生的量子干涉,就无法解释为什么会以特定的概率分布跑出这些 0 和 1。我前面说用量子数据去训练经典的机器学习模型,指的就是先在量子计算机内部模拟材料或化学反应,然后对其做测量,把测出来的经典信息喂给 AI。

当然,你也可以畅想这样一个未来:我们能够把量子信息无限期地活着保存下来。这几乎肯定需要容错量子计算机才能做到。在现有技术下,如果利用钻石中的「氮-空位中心」,大概可以让一个量子比特存活几个小时,但前提是它必须处于绝对与世隔绝的状态,谁也不能对它做任何操作;你一碰它,它就会丧失相干性(退相干)。

这就是处理量子信息最大的难点:测量会导致量子态坍缩,但实施测量的根本不需要是一个大活人。只要量子比特与外部环境发生任何细微的相互作用,把「它是 0 还是 1」的信息泄露到了环境里,对这个量子比特造成的效果就跟有人测量了它完全一样。这也正是建造量子计算机在工程上如此艰难的根本原因:在计算过程中,你一方面必须让这些量子比特与外界保持极度隔绝,另一方面又不能让它们彻底隔绝,因为你还得向它们发送指令,告诉它们什么时候执行什么操作。正因如此,九十年代有不少绝顶聪明的物理学家断定量子计算机根本不可能造出来。后来「量子纠错与容错理论」横空出世,大出所有人意料,证明这条路是走得通的:你不需要做到百分之百的绝对隔绝,只要做到足够好的隔绝,剩下的误差就可以交给纠错码去兜底。

将来借助这些量子纠错码,或许我们真的能让量子信息保持相干长达几个月甚至好几年,还能在世上流转交易。那将会打开许多非常酷的可能性,其中有一些是我亲自研究过的课题,比如「量子货币」。那或许会成为比现有加密货币更优越的形态,因为它根本不需要区块链,不需要烧掉海量算力去挖矿,也不需要庞大的分布式共识机制。你手里拿的直接就是以量子比特形式存在的现金,任何人都可以检验这张钞票的真伪,但从物理定律的底层就根本无法通过测量来伪造复制它。

说起来,2010 年左右我第一次听说比特币的时候,主要是因为我到处做关于「量子货币」的学术报告,总得顺带解释一下为什么未来的量子货币会比比特币更好。我当时脑子里压根儿就没闪过「我是不是该把全部身家投进比特币」这个念头——可见我只是个狭窄领域的超级智能啊![笑声]总之,量子信息就是这么一种奇特的东西,有着经典信息所没有的脆弱性。

罗曼: 我肚子里还有十亿个问题想追问你,但我知道你得走了。最后问你一个我问所有嘉宾的保留问题:你得替我们这期节目起一个吸引眼球的「标题党」标题。[笑声]

斯科特: 这我哪会啊……叫《罗曼向斯科特打破砂锅问到底》?或者《从 AI 对齐到量子计算再到比特币》?真不知道,你干嘛拿这个为难我?要说我最不擅长的事,起标题党标题绝对排第一。

罗曼: 哈哈,到时候看节目表现如何,我们会把你提的这几个版本都测试一下。太感谢你了,这期内容干货满满,以后我一定再请你回来专门聊聊量子货币和其他难题。

斯科特: 太好了,随时欢迎,以后有机会再接着聊。今天跟你聊得非常愉快,罗曼。

罗曼: 点一下关注分文不花,只需一秒钟,却能帮我们的频道成长,为您请来更多杰出嘉宾。欢迎订阅罗曼·扬波尔斯基(Roman Yampolskiy)频道。


​Thoughts Memo 汉化组译制
感谢主要译者 gemini-4-argon,校对 Jarrett Ye
原播客:AI Is SOLVING MATH Problems That Went Unsolved for CENTURIES| Scott Aaronson - YouTube

专栏:走向奇点


← 返回目录