今天我是屋里的「白痴」
主持人: 斯科特·阿伦森教授,你读过陀思妥耶夫斯基的《白痴》吗?
斯科特: 应该读过,不过那是几十年前的事了。
主持人: 太好了,因为今天坐在这儿的我基本上就是那个「白痴」。[笑声]这段时间我排满了各种采访,对象有前美国职业橄榄球大联盟(NFL)球星、终极格斗冠军赛(UFC)拳手、海豹突击队队员、好莱坞演员,还有火人节的首席执行官。可在所有这些访谈里,今天跟你这一场是最让我紧张的。(斯科特: 哇,那是因为你没法像揍 UFC 拳手那样揍我一顿吧?)哈哈,是因为你是你所在领域的世界顶尖权威啊!而我呢,这么说吧,我整个高中阶段唯一拿过的一次不及格(F),偏偏就是物理这门课。
斯科特: 顺便说一句,我读书的时候其实也没学过物理,我学的是数学和计算机科学,后来只是顺着量子信息这扇侧门误打误撞进了物理学界。再说了,至少你别的科目都没挂过科嘛。
主持人: 老实交代,我高中的数学课之所以能及格,纯粹是因为我成天跟我们那个特别年轻的数学老师打情骂俏。[笑声](斯科特: 那显然说明你有另一方面的过人天赋啊!)哈哈,好在咱们先把话挑明了:今天我就是这屋里的门外汉,但我又莫名其妙地特别兴奋。我听说你有两个孩子,对吧?几岁了?
斯科特: 对,一个十三岁,一个九岁。
主持人: 当他们问起「爸爸平时上班是干什么的」,你都怎么跟他们解释?
斯科特: 他们现在已经懂不少了,能说出一点 P 对 NP 问题、量子计算的基本概念。对他们俩来说,这些就是日常生活的一部分,因为我妻子也是理论计算机科学家,我们家连空气里都飘着这些话题。不过我已经跟两个孩子明确表过态:无论他们将来选择干什么,我都会全力支持——哪怕去搞代数几何,哪怕去搞物理或者工程学都行,不一定非得搞理论计算机科学。[笑声]
主持人: 那在他们还特别小的时候,比如说才五岁的时候,你是怎么向他们解释你的工作的?
斯科特: 我会跟他们说:我们做数学研究,是为了搞清楚计算机的终极极限在哪里,搞清楚用计算机到底能做什么、不能做什么。其中有一块,是我正在研究一种叫「量子计算机」的新型计算机。这种计算机人类才刚刚开始有能力造出来,但它看起来能飞快地完成某些计算任务;要是换作我们现有的计算机去算,花的时间比整个宇宙的年龄还要长。
我对量子计算机着迷,倒不完全是因为它的实际应用价值(虽然我也希望它至少能在几个领域派上用场),而是因为它改变了计算的极限。在「我们的宇宙中,究竟哪些问题能在合理时间内算出来、哪些算不出来」这个问题上,它改写了答案。我真正追求的,就是搞懂这个问题的答案。
主持人: 你最近取得的一项重大突破是什么?
斯科特: 我现在其实已经在走下坡路了,自己亲自动手做硬核技术推导的能力,比年轻时退步了太多。可以说我已经切换到了另一种工作模式,把越来越多的具体工作分派给我的研究生去做,而现在自然是分派给 AI 去做——相信我们待会儿肯定会聊到 AI,它正在彻底改变我们这行的工作性质。
不过在过去这两年里,我也参与过几项你可能会感兴趣的工作。早些年我和同行提出过一些理论方案,设想用量子计算机去做某些能击败经典计算机的任务;就在过去这一两年里,这些理论构想变成了实打实的物理实验——比如科罗拉多州的 Quantinuum 公司,就用他们那台 100 量子比特的计算机把实验做出来了。
12 个量子比特击败数百个经典比特
斯科特: 其中一项实验叫做「量子信息霸权」(quantum information supremacy)。简单来说,就是只用很少量的量子比特——比方说 12 个量子比特——去完成一项任务;如果换作经典的比特去完成同一项任务,就必须动用大得多的数量,我记得起码得几百个经典比特才行。
这项实验最漂亮的地方在于,量子与经典之间的这种差距是可以从数学上严格证明的,完全不需要对「经典算法的极限在哪里」做任何未经证实的假设(毕竟在复杂性理论里,很多关于经典算法极限的猜想我们至今还证不出来)。单论量子比特与经典比特的信息承载力对比,我们是能给出绝对严格的证明的。放在几年前,受制于当时的硬件水平,这个实验还根本做不出来;而现在技术成熟了,终于成功做了出来。
另一项实验,源于我 2018 年提出的一个构想,我们在 2023 年发表了论文,并在大约一年前由 Quantinuum 公司与摩根大通(JPMorgan Chase)合作,真正完成了实验演示。这项实验是利用现有的量子计算机,生成「经密码学认证的真随机比特」。
向怀疑论者证明「随机数是真的随机」
斯科特: 单纯生成随机数其实是件非常容易的事。只要承认量子力学,随机性本来就是大自然底层自带的属性:你把一台盖革计数器放在放射性物质旁边,原子核衰变时发出的咔哒声,按照已知的物理定律,本质上就是完全随机的。
但我们关心的是一个难得多的问题:你怎样才能生成一串随机比特,把它公布到互联网上,并且向世上每一个疑神疑鬼的怀疑论者严格证明,这串比特真的是随机的?
主持人: 这对我们的日常生活有什么实际意义吗?
斯科特: 拥有一个「可验证的真随机源」,在好几类密码学协议里都大有用处。最容易解释的一个应用场景就是加密货币,尤其是采用「权益证明」(Proof-of-Stake)机制的加密货币——比如一两年前完成合并升级后的以太坊。
权益证明机制比比特币环保得多,不需要为了算那些毫无意义的哈希题而耗掉全球很大一部分电力;但它的代价是,你必须不间断地举办「抽签彩票」,来决定下一秒由谁负责把新区块添加到区块链上。这上面可是压着成百上千亿美元的真金白银,所有人都必须确信这场抽签绝对公平、没人作弊。
目前他们采用的是比较权宜的办法,直接从区块链自身的数据里提取随机性。但如果你想要一个真正扎根于底层物理定律的真随机源,按照我们提出的方案,完全可以用现有的量子计算机来实现。顺便提一句,这套协议是我整个学术生涯中唯一通过德州大学奥斯汀分校申请过专利的成果,甚至还对外授权过一阵子——虽然到现在也没人靠这项专利发财。[笑声]
这套协议的基本原理是这样的:假设有一台经典的验证计算机(挑战者),手里只有极少量的初始随机种子。它利用这点种子生成一张「量子电路」——也就是一连串可以让量子计算机执行的操作指令。这张电路表面上看起来是随机的,实际上只是「伪随机」。你可以把我的这套协议理解成一种「自举(bootstrapping)」机制,能把那一点点伪随机性放大转化为真正的海量随机性。
具体怎么做呢?挑战者通过互联网把这张伪随机电路发送给远端的量子计算机,向它发起挑战,要求它运行这张电路,并对输出的结果进行抽样——如果是一张 50 量子比特的电路,每次测量就会吐出一串由 50 个 0 和 1 组成的比特串。量子计算机必须在极短时间内把一批这样的样本串发回来。
接着,经典的验证者就可以不慌不忙地对这些比特串做统计检验,核实它们是不是真的由那张量子电路生成的。有意思的是,整套协议真正的性能瓶颈并不在于量子计算本身,而在于用经典计算机去检验量子计算的结果!如果电路有 50 个量子比特,经典检验大约需要耗费 步运算。这也正是为什么目前规模最好控制在 50 个量子比特左右——要是扩大到 100 个量子比特,检验就得耗费
步运算;现有的超级计算机能应付
次运算,却绝对算不动
次。
虽然检验有这个算力瓶颈,但你可以事后慢慢算。最核心的亮点在于:只要统计检验通过了,我和我的博士后洪士涵(Shih-Han Hung)从数学上严格证明了,在一些合理的密码学假设下,哪怕是量子计算机,要想在这么短的时间内交出合格的样本,唯一的可能就是它真的在从一个包含大量真随机性的分布中进行抽样!换句话说,你根本不需要信任那台量子计算机。
哪怕量子计算机被美国国安局(NSA)劫持也没关系
斯科特: 哪怕那台量子计算机已经被美国国家安全局(NSA)、中国情报机构,或者你最忌惮的死敌暗中控制了,只要它发回来的样本通过了你的统计检验,那么只有两种可能:要么是我们对「哪些问题对量子计算机来说很难」的认知彻底错了,要么那些样本里就必定包含大量的真随机性!随后,你只需要把这些样本输入一个计算机科学里早就成熟的经典算法——「随机性提取器」(randomness extractor),就能从中提炼出近乎完美均匀分布的真随机比特,拿去供各类密码学应用使用。这就是我过去十年里做过的一些代表性工作。
15 岁「辍学」上大学
主持人: 我对你的个人成长经历也特别着迷。据我所知,你大概是我听说过的唯一一个在 15 岁时从高中「辍学」,直接跑去上大学的人。
斯科特: 哈哈,「辍学」只是一种说法啦。其实我是在 15 岁那年考取了纽约州的高中同等学力证书(GED)。主要原因是,无论在智力层面还是社交层面,我都实在受不了高中的环境。(主持人: 这点我太有共鸣了!)我想赶紧逃离那里,而我的数学成绩向来遥遥领先,我就拿这个当借口,想办法提前脱身了。
当时还有一个很特殊的契机:我父亲有一阵子被派到香港工作了两年,所以我 13 岁那年住在香港,那几年一直在美国和香港之间来回搬家。两地的学制完全不同,我就利用这种学制差异钻了个空子,跟学校说:「为了能上符合我水平的数学课,我其实应该直接读九年级,而不是八年级。」等我再搬回美国时,又顺势从十年级跳到了十一年级。
到了那一步,高中的数学课已经彻底教不了我什么了。正好我打听到纽约州北部的克拉克森大学有一个叫「克拉克森少年班」(Clarkson School)的项目,允许高三学生直接去修大学课程,修满后拿高中毕业证,再转学去其他大学。我就在 15 岁那年去了那儿,度过了一段非常愉快的时光。随后我向一大批大学投了申请,几乎全军覆没,唯独康奈尔大学好心录取了我。就这样,我在 16 岁那年进了康奈尔大学。
后来我也常反思自己当年到底该不该这么干。从专业发展的角度看,我非常庆幸自己走了这条路,如果重来一次我还是会这么选。事实上,我觉得如果教育体制允许的话,本来有多得多的热爱数理的少年完全可以走同样的路。我一直强烈主张,应该允许学生按照自己的节奏来推进学业——眼下我在自己两个孩子身上也正在操心这件事。所以单论学业,我一点都不后悔。
在社交上,这让谈恋爱变成了「地狱难度」
斯科特: 不过在社交层面上,跳级确实让谈恋爱变得难如登天!(主持人: 怎么说?)因为我比班上的同学小了整整三岁啊!我花了极其漫长的时间,才慢慢摸索出怎么去模仿一个拥有正常社交技能的普通人。本来我在社交上急需玩「简单模式」,结果却一头扎进了「困难模式」。我觉得在这方面,女生跳级受到的社交阻碍要比男生小得多。
主持人: 所以你基本上是绕过了常规教育体制,后来又去麻省理工学院(MIT)任教了九年。
斯科特: 中间还隔了好几站呢。从康奈尔本科毕业后,我去了加州大学伯克利分校读博,待了四年;接着去普林斯顿高等研究院做了博士后,又去加拿大的滑铁卢大学待了两年;再往后才获聘到麻省理工学院当教授,在那儿教了九年书。在麻省理工期间我结了婚,生了女儿;后来因为我和妻子需要在同一个城市找教职,正好德州大学奥斯汀分校给我们开出了非常优厚的条件,十年前我们就搬到了德州。
11 岁发现编程:「就像第一次知道小孩是从哪儿生出来的」
主持人: 你是什么时候对量子计算产生这份热情——或者更准确地说,产生这份痴迷的?
斯科特: 我最早迷上计算机科学的时候,其实还不知道量子计算。我大概是在 11 岁那年第一次知道世界上居然有「编程」这么一回事,当时简直气坏了——怎么以前从来没人告诉过我这事呢?!
像上世纪八九十年代的绝大多数小孩一样,我当时是个狂热的任天堂游戏迷,做梦都想自己做一款任天堂游戏。可我完全摸不着头脑,根本不知道《塞尔达传说》或《马里奥》到底是怎么做出来的:难道是去一家工厂里造出来的吗?怎么才能让屏幕上的小人完全按照你的心意移动呢?
直到有一天,一个朋友在电脑上给我演示了 Apple BASIC——那是一门古老得不能再古老的编程语言了。他给我看了一个小飞船游戏,指着屏幕上的几行代码告诉我说:「这几行代码就是这个游戏的全部定义;你想让游戏变成别的样子,只需要改这几行代码就行了。」我常打比方说,那一刻对我的震撼,简直就像第一次知道小孩是从哪儿生出来的一样,彻底打开了新世界的大门!
打那以后,我就如饥似渴地想学关于编程的一切。到了七年级,我交到了一个同样痴迷编程、而且水平比我高得多的好朋友。我们俩一起开发共享软件游戏(shareware),挂到「美国在线」(AOL)上卖,靠用户付费注册居然赚到了至少 30 美元!
不过在写程序的过程中,我也渐渐意识到:虽然我喜欢编程,但我其实并不擅长做「软件工程」——我不擅长让自己的代码跟别人的代码无缝对接,不擅长按截止日期赶工,也不喜欢写技术文档。当然,放在今天我们有 AI 可以代劳所有这些琐事,但当年可没有。相反,我越来越被计算机背后的数学一面所吸引:我想搞清楚,人类究竟能写出什么样的程序?究竟有哪些问题是任何程序都解决不了的?
当时我先后学了 BASIC、Pascal、C、C++ 和 Java。学着学着,我脑子里冒出了一个问题:这些语言就是计算机能力的极限了吗?有没有可能发明出另一种全新的编程语言,能让你做出在 BASIC 里哪怕从原理上也绝对做不出来的事?(主持人: 你刚说的这些词对我来说跟天书一样。不过 BASIC 和 Java 我倒是听说过。)像 Pascal 这些老掉牙的语言,几十年前就不流行了,你没听过很正常;现在大家都用 Python,可我读书那会儿——那是上世纪九十年代——Python 甚至还没发明出来呢。
总之,我当时一直在琢磨:未来会不会有人发明出一种全新的编程语言,能做出在现有语言里从根本上就无法实现的游戏?就在这时,我学到了计算机科学里一个叫「丘奇-图灵论题」(Church–Turing thesis)的核心原理,这成了我人生中的第二次大顿悟。
这是计算机科学鼻祖艾伦·图灵和他的同行早在 1930 年代就彻底想明白的道理:只要你的计算机具备了一套最基础的功能——能够执行「如果……那么……」(if-then)的条件跳转,能够跑循环,能够根据某处写的是 0 还是 1 来决定分支走向,并且能够读写内存、寻址越来越多的内存空间——一旦跨过了这条基础门槛,你就达到了所谓的「图灵完备」(Turing-universal)。到这一步,任何其他已知编程语言能干的事,你都能干!剩下的唯一区别,仅仅在于你有多少时间、有多少内存。
换句话说,自上世纪三四十年代以来,虽然我们的计算机性能呈指数级翻倍暴涨,但这纯粹是因为芯片运行速度越来越快、内存越来越大、机器数量越来越多罢了,而计算机底层运作的基本原理却连一丁点都没有改变过!
摩尔定律:一切都变了,一切又都没变
斯科特: 数量级确实在呈指数级飙升,这就是著名的「摩尔定律」:无论按哪种指标来衡量,算力大约每隔 18 个月到两年就会翻一番。从 1950 年代直到今天,这一规律一直成立,也正是这股力量推动了过去几十年我们见证的几乎所有技术变革——把我们从当年的庞然大物埃尼阿克(ENIAC)一路带到了 iPhone,再到今天运行 ChatGPT 和 Claude 的巨型数据中心。
可是在理论家或数学家眼中,从某种意义上说,这全都是换汤不换药:底层的运行原理一模一样,指令集本质上一模一样,无非是规模越来越大而已。这一认知深深塑造了我的世界观。我甚至觉得,要想理解我们这个宇宙,根本没必要学太多物理,因为物理学无非是一些底层的「编码细节」罢了——至于中微子或 子的质量具体是这个数还是那个数,不管物理细节怎么变,归根结底都只是一个图灵完备的编程环境。(主持人: 听你这么说,看来我有朝一日成为量子物理学家也还有戏啊!)
哈哈,我这不正在讲自己是怎么从侧门溜进物理学界的嘛!我在大学里当然也修过物理课,但传统物理课一上来很快就会扎进微分方程的计算里,面对无穷多个自由度;因为方程太复杂算不动,紧接着又会引入各种往往缺乏严格依据的近似处理。很多物理学家极其擅长这套手艺,但这种数学风格实在引不起我的共鸣。我喜欢一切都定义得清清楚楚,喜欢有限的东西,或者至少是有限维度的东西。所以我当时对物理学一直保持着一臂之遥的距离,心想:「反正它在计算能力上跟图灵机是等价的,跟我熟悉的东西没区别。」如果你把整个世界看成一场大型电子游戏或计算机模拟,你根本不会在乎天上那位老程序员底层用的是 Pascal 还是 C 语言,因为这些语言全都能互相模拟。
直到 1990 年代中期,我偶然读到了关于「量子计算」的文章,这成了我人生中的第三次大顿悟!当时正值最著名的几个量子算法刚刚问世,比如 1994 年分解大数的秀尔算法、搜索数据库的格罗弗算法。我在 1995、1996 年读到了一些介绍这些算法的科普文章。
当时的科普文章把量子计算完全讲歪了——其实现在过去了三十年,如今市面上的科普文章往往还是照样讲歪——它们最爱说的陈词滥调就是:「量子计算机能够同时尝试所有可能的解答,所以能比经典计算机快指数倍地解出难题。」当时十几岁的我读到这句话,第一反应就是:「这听起来纯属胡扯!写文章的物理学家根本不知道自己面对的是什么硬骨头,根本不懂图灵计算的极限!」
话虽如此,为了彻底搞清楚怎么回事,我还是去学了学量子力学。九十年代互联网刚兴起不久,但网上已经有一些网页在讲解量子计算和刚发现的量子算法了。我把那些网页和早期的量子计算论文找来一读,惊讶地发现:要想学懂量子计算,需要具备的物理背景知识居然少得可怜!它本质上全都是向量和矩阵,全都是线性代数!只要你懂什么是复数、什么是矩阵,就能直接上手,而我的数学底子完全够用。
这就好比一个顶尖的程序员,完全不需要懂得晶体管的物理原理,也不需要知道芯片硬件底层是怎么走线的。现代计算机科学的精髓,就在于建立起了清晰的「抽象边界」:你可以完全在 Python 代码的层面上思考,最多往下深入到汇编语言的层面,至于怎么制造晶体管,那是硬件工程师的事。量子计算也是一样:物理学家和工程师至今还在苦苦攻关,想办法把量子比特的规模做大;虽然相比三十年前我刚读到它时已经取得了突飞猛进的进展,但还没达到理想的目标。而与此同时,我们搞理论的人完全可以先假定:「假如你已经有了完美的量子比特,那会带来怎样一种全新的高效计算模型?」
那么,量子力学到底有没有推翻我刚才说的「丘奇-图灵论题」?有没有改写「什么是可计算的」?这里头的答案非常微妙:如果单论「不计时间代价,到底什么能算出来」,量子力学没有带来任何改变,可计算函数的集合跟以前一模一样,因为任何能用量子计算机算出来的东西,给经典计算机足够长的时间也迟早能算出来。
但如果问的是「在合理的时间内(比如几分钟或几天,而不是比宇宙年龄还长的时间),什么能高效算出来」,量子计算就真的改写了答案,而且改写的方式比任何科幻小说家的想象都要离奇得多!
说到底,薛定谔在 1926 年写下薛定谔方程,距今整整一百年了。这一百年来,量子力学的底层框架从未改动过,一直是整个物理学的基础语言,堪称科学史上最成功的理论;但与此同时,它也是科学史上发现的最诡异的事物。因为量子力学的最核心本质,是对「概率法则」本身的彻底改写!
量子力学的本质是改写概率法则本身
斯科特: 在日常生活中,我们用 0 到 1 之间的数字来衡量概率,比如预测某位候选人有 30% 或 80% 的胜算;你绝对不会说他有「负 30%」的胜算,更不会说有「 」的胜算,那纯属胡言乱语。可在量子力学里,我必须给每一种可能性赋予一个叫「振幅」(amplitude)的数字,而这个振幅可以是正数,可以是负数,甚至可以是复数!
围绕这些振幅如何随时间演化,有一整套全新的运算法则。最关键的是,不同路径的振幅之间可以互相抵消:如果某件事通过一条路径发生的振幅是正数,通过另一条路径发生的振幅是负数,两者相加总振幅就会变成零,导致这件事根本不会发生!这就叫「量子干涉」。而当你去观察、去做测量时,又有一条法则把这些复数振幅换算成我们熟悉的常规概率,决定你看到这个结果或那个结果的几率。但底层计算概率的规则,已经跟我们的日常经验截然不同了。
这就是量子力学的全部核心所在。可当年我看科普书的时候,从来没人这么直白地告诉过我!科普书里翻来覆去只会说「量子力学很诡异,粒子不在任何一个确定的位置,而是化作一团模糊的概率云」。我当年读到这种话,心里只会犯嘀咕:「这不就是拐弯抹角地承认你不知道粒子在哪儿吗?」其实只要把窗户纸捅破,直接告诉读者「量子力学就是用复数振幅改写了概率法则」,一切就豁然开朗了。十来岁时看懂了这一点,我就此一头扎进了量子计算领域。(主持人: 我觉得这是我这辈子听过的对量子物理最清楚的一次解释!)
「现在要聊劲爆内幕了」:在 OpenAI 内部的两年
主持人: 接着往后快进一下你的职业生涯:你还去 OpenAI 工作过两年,研究 AI 安全的理论基础。你在那儿的具体工作是什么?
斯科特: 好,现在要聊到劲爆的内容了![笑声]这一下快进了好多年。我是九十年代末在康奈尔读本科时进入量子计算领域的。当时我其实还没把握自己能不能在量子计算上做出什么原创成果,与此同时,我对计算机科学的另一大分支——人工智能(AI)与机器学习——也抱有极其浓厚的兴趣。哪怕在九十年代末,我也已经能看出,AI 对现实世界产生实际冲击的时间表,多半要比量子计算来得更早。(主持人: 那是哪一年?九十年代末就已经能看出来了吗?)对,「人工智能」这个词早在 1956 年就造出来了。
在那之前有一整段漫长的早期历史,像马文·明斯基、约翰·麦卡锡这些伟大的思想家,在后来证明走不通的死胡同里耗费了无数心血。当时他们一厢情愿地以为:只要我们深刻内省,彻底搞明白人类自身认知与推理的运作逻辑,就能直接写成明确的规则教给机器。麦卡锡甚至放出话来,说一旦我们搞懂了背后的逻辑,算力大小根本无关紧要,哪怕用六十年代的老掉牙计算机也能跑通人类水平的 AI。
当年几乎没有人愿意相信,真正的答案居然如此简单粗暴:只需要攒够极其庞大的算力,喂进去极其庞大的训练数据,整个系统就会出于某种谁也说不清的神秘原因突然开窍!这个假说当年其实也有人提过,但大家觉得它太糙、太缺乏美感了,根本不屑于当真,觉得那纯粹是痴人说梦。
为什么神经网络沉寂了 60 年,却突然奏效了?
主持人: 那真正的突破是什么时候发生的?
斯科特: 你想找的是某种概念上的顿悟突破,可我要告诉你的恰恰是:根本就没有那种突破!如果要说概念上的突破,早在上世纪四五十年代到七八十年代就已经完成了——那时候人们就已经提出了神经网络的概念(今天大家挂在嘴边的「深度学习」,其实就是把当年的神经网络重新包装换了个新名字而已)。
神经网络最早起源于 1940 年代,到了 1960 年代发展成「感知机」,到了 1980 年代学者们就已经在训练多层神经网络了。从某种意义上说,当年他们手里的核心思路全都是对的;唯独欠缺的,是足够的算力和足够的训练数据——而且不是差一点点,是差了几百万倍!因为规模差了几百万倍,当年训练出来的神经网络看起来蠢笨无比,让所有人都以为这是一条走不通的死胡同。在当时,除非你是个彻头彻尾的疯子,否则谁敢大言不惭地说:「你们等着瞧,只要把这个目前不管用的办法在规模上放大几百万倍,它就会突然产生奇迹!」当年只有极少数几个人敢这么说;结果几十年后的今天,事实证明他们全说中了。
所以,在长达几十年的时间里神经网络一直不管用,直到人们攒够了拥有数十亿神经元的网络规模,并把整个互联网上的海量内容都拿来做训练数据,它才突然展现出了接近人类水平的智能。在我刚入行学计算机科学的时候,几乎没人料到事情会是这样一个走向。
至于我是怎么去 OpenAI 的:2000 年前后,我之所以决定选量子计算而不选 AI,正是因为当时的 AI 研究几乎全靠经验试错。首先那时候的模型远没有今天这么灵光,其次哪怕偶尔管用了,也没人真正明白它为什么管用。大家写论文无非是画几张柱状图,说「我们在某个基准测试集上试了这个机器学习方法,准确率提高了 20%」。而我这人喜欢退后一步,从数学底层彻底搞明白一个东西为什么能行得通,所以当年我在量子计算里找到了更多乐趣。
在我离开 AI 领域的这二十多年里,凭着算力和数据的海量增长,AI 自然变得越来越强。当然,期间也出现过一些重要的架构创新,如果非要挑一个近期最关键的技术突破,那就是 2017 年谷歌团队发明的 Transformer 架构——顺便说一句,GPT 这个缩写里的「T」,指的就是 Transformer(生成式预训练 Transformer)。正是这项发明,为随后爆发的一切铺平了道路。不过据我估计,就算当年没人发明 Transformer,最多也就是晚个几年,我们照样会走到今天这一步,只是它确实大大加速了历史进程。
在这期间,我一直留意着 AI 界的动静:2011 年,计算机在智力竞赛节目《危险边缘》中击败了人类冠军;2016 年,AlphaGo 在围棋上击败了人类世界冠军;图像识别也取得了惊人进展。到了 2020 和 2021 年,正当全世界都被新冠疫情分散了注意力的时候,我注意到有一家叫 OpenAI 的奇怪小机构,推出了一个叫 GPT-3 的模型(那时候还没有 ChatGPT)。
我设法拿到了内测权限,上手试玩了一下,比如当时有一个基于它开发的文字冒险游戏叫《AI 地下城》(AI Dungeon),你随便写几句话开头,它就能顺着你的话把故事接着往下编。当时它还算不上真正实用,但已经足够让人大开眼界了。我一眼就能看出,这跟自六十年代以来那些只会把你的话换个句式重复一遍的玩具聊天机器人(比如 ELIZA)有着本质的区别!当初计算机界和语言学界的学者刚听说 GPT 时,绝大多数人的第一反应都是:「切,不就是又一个 ELIZA 式的江湖骗术吗?」可我亲自上手一试,发现绝非如此:在它内部,显然已经对真实世界、对人类语词背后的含义建立起了某种认知模型,这是以前的程序从来不曾拥有过的。
我在 2021 年「服下了 AI 红药丸」
斯科特: 可以说,在 2021 年前后,我就彻底「服下了 AI 红药丸」(AI-pilled)。我当时意识到:既然光靠把神经网络做大就能跑通这条路,那就说明二十年前断定这条路走不通的计算机科学家全都看走眼了;而且只要继续把规模往上堆,它必然会变得越来越强。当然,我身边有些朋友比我早十年就已经看透了这一点,所以我算是后知后觉了。当时我虽然看清了趋势,但还不知道自己能在这个领域干点什么。
当伊利亚·苏茨克维和扬·莱克找上门来
斯科特: 到了 2022 年,OpenAI 当时的首席科学家兼联合创始人伊利亚·苏茨克维,以及当时负责对齐团队的扬·莱克主动联系了我。他们说平时常看我的博客,邀请我向大学请假一年,加入他们的 AI 对齐团队。
我的第一反应是:「你们找我干嘛?我是搞量子计算的,你们干的事跟量子计算八竿子打不着啊!」他们解释说:「我们的视野要更宽广一些。你是一名理论计算机科学家,而我们坚信,要想确保 AI 的安全,理论计算机科学很可能会处在核心位置。诚然,迄今为止让 AI 变得如此强大的进展几乎全靠经验试错;但如果我们要确保它绝对安全、不会帮恐怖分子制造化学武器、不会暗中算计人类,我们就不能只靠试错,而必须有某种理论层面的安全保障。」
我一开始还是拿不定主意,但我知道确实有同行在研究这个交叉方向。我以前在麻省理工学院教过一名才华横溢的本科生,叫保罗·克里斯蒂亚诺;他本科时跟我做量子计算,后来去了 OpenAI,成了整个 AI 对齐领域的领军人物。因为保罗的缘故,我知道理论计算机科学与 AI 对齐之间确实大有文章可做。再加上他们开出的条件实在让人难以拒绝:允许我留在奥斯汀陪家人、带学生,每个月只要飞一趟旧金山就行,还给我发薪水免去我的教学任务。于是我就答应了。
主持人: 你在那儿的具体工作内容是什么样的?
斯科特: 其实从来就没有过什么明确的岗位说明书,大方向就是「想办法用理论计算机科学的工具来解决 AI 对齐问题」。我自己到处找课题做,每个星期都会跟伊利亚开一次周会,向他汇报:「伊利亚,我在这个问题上取得了一点进展,在那个问题上取得了一点进展。」
伊利亚的终极追问:「AI 热爱人类」用数学怎么定义?
斯科特: 伊利亚每次听完总会说:「嗯,太棒了,斯科特;但我们真正想听你说说的,是『AI 热爱人类』用数学到底怎么定义?」我每次都只能回答:「伊利亚,这个问题我还在想呢,目前还没有太多进展可以汇报。」[笑声]
我甚至都不确定这个问题里到底有多少成分属于数学问题——它看起来更像是把人类三千年的道德哲学难题全浓缩到了一起。我面临的挑战,就是能不能从这个庞大的哲学难题里掰下几小块能够用数学工具去处理的碎片,一步步取得实质进展。
他为 ChatGPT 发明的水印技术
斯科特: 在 OpenAI 期间,我做出的最具体的一项成果,就是发明了第一个给大语言模型(如 ChatGPT、Claude 或 Gemini)输出内容加水印的方案。
什么叫「加水印」?就是在完全不影响普通用户体验、让用户毫无察觉的前提下,稍微改动一点语言模型的运行方式,在它输出的词汇选择中悄悄嵌入一层微弱的统计信号。这样一来,事后你就可以用极高的把握证明:这段文字不仅出自 AI 之手,而且就出自某一个特定的 AI 模型。
那是 2022 年夏天,距今四年了。当时 ChatGPT 甚至都还没发布,但我已经在 OpenAI 内部用上了 GPT-4。看到它写出的高中作文和大学论文水平那么高,我脑子里瞬间闪过一个念头:「天哪,全世界的学生肯定都会拿这东西来做作业作弊吧!」[笑声]虽说我在预见几十年后的遥远未来方面战绩不佳——比如我当年既没看准 AI 规模定律的威力,也没看准比特币会火成这样——但那一次,我成功预见到了六个月后的未来!
主持人: 我平时在 Substack 上写文章,看到他们最近刚跟 Pangram 达成了合作。那算是你这项研究的衍生品吗?
抓出 AI 文本的三种方法:Pangram、后台日志与水印
斯科特: 不完全是。很快大家就发现,要想让 AI 生成的文本变得可检测,主要有三条截然不同的技术路线。
第一条路线,是把「检测 AI 文本」本身也当成另一个 AI 问题来做:专门训练一个新的神经网络,让它尽最大努力去分辨哪些文字是人写的、哪些是 AI 写的。这就是 Pangram 采用的路线,而且他们做得非常出色,效果比我们很多人预想的都要好。但这类方法依然避免不了一定比例的误报(false positives)。如果你是一名老师,要根据检测工具的结果指控一名学生作弊,那你手里最好有十拿九稳的铁证,误报率必须远远低于 1% 才行,否则一旦冤枉了好学生就麻烦了。
第二条路线,是让各大 AI 公司干脆在服务器后台把模型生成过的每一段文字都记录下来,然后开放接口供外界查询:「你们的模型以前有没有生成过这篇作文?」这种做法能不能保护好用户隐私大有疑问;哪怕技术在隐私保护上做得滴水不漏,也很难让公众相信你没偷看他们的隐私,大家心理上总会觉得膈应。
这就引出了第三条路线,也就是我提出的「水印技术」。跟 Pangram 不同,水印技术需要稍微改动大语言模型自身的生成机制。这利用了大语言模型天生具有的「概率性」特征:大家都知道,如果你把同一个提示词喂给 ChatGPT 好几次,每次得到的回答都不太一样。因为 Transformer 神经网络在底层并不是死板地算出下一个词唯一应该是什么,而是算出词表里每一个候选词出现的概率分布,然后从这个概率分布中随机抽样选出下一个词。
而水印技术的思路是:我们不再做纯粹的随机抽样,而是改用「伪随机」抽样。表面上看,选出来的词依然像是严格按照原有的概率分布随机抽出来的,质量没有任何下降;但在暗地里,我们通过一个伪随机函数,悄悄偏向了那些在该函数下得分较高的词组搭配。
事后检测时,检测工具根本不需要知道模型当时的概率分布,也不需要知道用户当初输入了什么提示词,只需要拿到最终的那篇文本就行。只要我们手里握有那个伪随机函数的密钥,就可以扫描文章里每五个连续单词组成的词组,算出它们的伪随机函数得分并累加起来。如果总分超过了某个阈值,我们就可以断定:「纯靠随机巧合撞上这么高分数的概率还不到千分之一;因此我们有 99.9% 的把握确认,这篇文字里嵌着该 AI 模型的水印!」
当年我在 2022 年提出这套原理并到处做报告时,很多人一开始都以为,加水印必然会以牺牲生成文本的质量为代价。我向他们证明了:根本不存在这种取舍!因为你只是用伪随机替换了真随机,任何人都察觉不到半点差别。从那以后,学界在我这套基础理论上做了大量改进,发了无数篇论文——我自己反倒连一篇论文都没来得及写,因为等我想动笔的时候,我的原始方案早就被更新换代了,AI 圈子的迭代速度对我来说实在太快了。[笑声]
为什么谷歌和 Anthropic 都上线了,OpenAI 却没上?
斯科特: 如今,谷歌 DeepMind 和 Anthropic 都已经正式上线部署了跟我方案高度相似的水印技术,唯独老东家 OpenAI 到现在还没上线。
主持人: 从更个人的层面来说,亲身在 AI 这台巨大机器的内部工作过之后,你对人类未来的看法、对你自己孩子未来的看法发生了什么改变?
斯科特: 那段经历当然迫使我更深入地思考这些问题。其实就算我没去 OpenAI 工作过,如今无论你在大学的计算机系、在其他任何院系,甚至在社会的任何行业工作,都不可能感受不到 AI 正在天翻地覆地重塑整个世界;只是在 OpenAI 的经历,让我比一般人更早、更真切地直面了这些冲击。
前面我提过,我十一岁左右的时候,除了打任天堂游戏,还读了大量艾萨克·阿西莫夫的机器人小说。那时候我刚学会编程,心里想的是:要是能写一个遵循阿西莫夫「机器人三定律」的 AI 程序,那该多酷啊!怎么以前没人想到这么干呢?
阿西莫夫三定律,以及当年试图把它写出来的少年
斯科特: 我当年还真动手试了试,结果在第一步「怎么让程序变得有智能」上就卡壳了。[笑声]等我到了十几岁,开始学习真正的计算机科学,才发现计算机科学跟阿西莫夫写的那些东西简直差了十万八千里——当时的计算机离「拥有足够高的智能、以至于需要操心机器人三定律」根本遥不可及,那纯粹是我脑子里的科幻幻想。
结果快进三十年,当我坐在 OpenAI 的员工餐厅里,跟不同团队的同事一起吃午饭时,饭桌上聊的每一个话题,都让我觉得自己活脱脱置身于阿西莫夫的科幻小说里![笑声]
主持人: 那现在的 AI 到底有多安全?
斯科特: 我很担心,非常担心未来的走向。大家必须明白,这绝不仅仅是一款酷炫的消费级电子产品,我们是在地球上创造出了除人类自身之外的第一种语言智能!
「末日乐观主义者」——那堵墙到底在哪儿?
主持人: 我听你以前称自己是一个「末日乐观主义者」(apocaloptimist)?
斯科特: 哈哈,那个词出自别人拍的一部纪录片。我想说的是,目前根本看不到任何明显的「停止法则」能让 AI 停在某个地方,比如「它只在这些工作上比人类强,在那些工作上永远超不过人类」。如果有人坚称 AI 前面有一堵跨不过去的墙,撞上之后就会停止进步,从而给人类留出大把具有经济价值的活儿可干,那我现在必须说:请鼓吹「撞墙论」的人先拿出令人信服的理由,指明那堵墙到底在哪儿!
因为过去这几年我们亲眼看到的是:随着模型规模不断扩大,随着推理阶段算力(inference-time compute,即让模型在回答你之前先自己在后台深思熟虑、上网查资料)的不断增加,随着训练数据和强化学习的不断加码,它只会变得越来越强、越来越强。
放在三年前,模型已经能考过一些高中考试了,大家觉得挺酷,但还会安慰自己说:「它又做不了真正的科研!我要是拿自己的科研课题去问它,它只会像个盲目自信的大一新生一样满嘴跑火车。」那时候你还可以指着它哈哈大笑。
可现在我们走到哪一步了?就像你们很多听众今年夏天已经看到的那样,在纯粹数学和理论计算机科学领域,已经涌现出了大批部分甚至完全由 AI 模型做出的重大突破!许多悬而未决多年的老问题纷纷告破:著名数学家保罗·埃尔德什提出的「单位距离猜想」,让 OpenAI 的模型找出了反例直接证伪;我自己在量子计算理论和计算复杂性领域挂念多年的好几个问题,也让 OpenAI 的模型给解出来了;就在几周前,Anthropic 的一个模型还在整個数学界最重大的未解难题之一「黎曼猜想」上取得了人类未曾达到的实质性进展(虽然还没彻底解开,但往前推进了一步)。
看到这一切,数学家和计算机科学家——尤其是经历过今年夏天之后——都已经看清了墙上的预警信号:也许未来还会有我们的一席之地(我们很多人出于私心当然盼着还有),但我们所从事的工作的本质,已经彻底改变到面目全非了。现在我每天晚上刷预印本网站 arXiv 上的最新量子计算论文,在过去一个月左右令我感兴趣的论文里,至少有一半都会写明:「我们在研究中使用了 GPT 或 Claude,它至少协助完成了本文的技术推导工作。」
《AI 2027》、人类灭绝,以及红毛猩猩在人类世界里的处境
主持人: 为了准备今天这场对话,我重读了《AI 2027》那篇长文。里头推演的其中一个剧本,就是预计人类将会走向灭绝。你对此怎么看?
斯科特: 很遗憾,我认为这确实在可能发生的结局范围之内。
现在有一个庞大的圈子——外界有时会带着贬义管他们叫「AI 末日论者」(AI doomers)——其中最著名的先知就是埃利泽·尤德科夫斯基。他呼吁这件事已经超过二十年了。在他看来,有一点是明摆着的:只要我们继续把 AI 造下去,它迟早会超越人类;到那时,它与我们人类的差距,就好比我们人类与红毛猩猩的差距一样。你看看红毛猩猩在人类主宰的世界里混得怎么样?
尤德科夫斯基的结论甚至比这还要激烈得多,他直接断言:「在默认情况下,它会杀光我们所有人!」除非我们在如何让超级智能与人类利益对齐的问题上取得奇迹般的突破,否则无论它自身的目标是什么,把地球改造成另一副面貌往往都比留着人类碍事更有利于它达成目标。
我个人并不认同「人类灭绝是必然的默认结局」这一论断;但如果你问我「这有没有可能发生」,很遗憾,答案是肯定的。大家在概念上必须彻底扭转过来:眼下正在发生的这件事,绝不是像互联网或社交媒体那样的又一项酷炫新技术,而是堪比当年原始人类大脑进化成形的地球级历史事件!
这堪比原始人类大脑的进化
斯科特: 在整个地球演化的漫长历史上,当年人类祖先的大脑进化出了语言智能,能够抽象概括概念,后来又学会了书写记录、深思熟虑;而今天,地球上诞生了第二种语言智能!
更可怕的是,这第二种语言智能完全不受我们人类生理结构的束缚:我们的大脑体积受制于头骨的大小,而头骨大小又受制于婴儿出生时女性产道的宽度;我们的大脑只能靠每天从食物中摄取的那一丁点微弱能量来运转。可硅基智能完全没有这些限制,你可以把它的规模无限制地往上堆!任何亲自用过 Fable 或 GPT-5.6 Pro 的人都能一眼看出,在许多衡量指标上,这些模型已经比我们人类聪明得多了。
未来五到十年——财富会流向谁手里?
主持人: 站在今天这个时间节点上,你个人怎么看?你觉得在未来五到十年里,AI 会走向何方?
斯科特: 会走向极其诡异、也极其令人恐惧的境地。我当然希望到时候我们人类还好好活着。要是看实际行动的话,你看我现在照样送两个孩子去上学,照样跟他们规划将来上大学的事,琢磨报哪所大学好;但在个人层面上,这件事确实无时无刻不在困扰我:我到底该教给孩子什么东西,才能让他们在未来的世界里派上用场?未来到底还有什么事情是留给人类去做、并且具有经济价值的?
眼下可能出现的结局跨度极大,如果我们想把历史推向更好的结局,现在正是必须大声疾呼的关键时刻,这绝对是人类历史上最休戚攸关的转折点之一。(主持人: 我们普通人真的有任何影响力吗?)当然,不是每个人都有萨姆·奥特曼或达里奥·阿莫代伊那么大的话语权,但我们每个人手里都握有一份大于零的影响力。至少我们可以投票,可以发声表达立场;其中一部分专业人士还可以投身到如何确保 AI 安全的研究中去。目前在 AI 安全和 AI 治理领域,还有海量迫切的工作要做,而相比于实际需求,这方面的资金投入依然少得可怜。
当然,我们也可以畅想一些比较美好的结局。哪怕有一天 AI 在所有事情上都比人类做得更好,也未必就是世界末日。其实绝大多数普通人很早就已经跟自己和解了:哪怕自己干的工作没有创造惊天动地的经济价值,哪怕自己写不出传世小说、画不出名画、证不出别人证不出的数学定理,大家照样能享受生活、享受友情、享受自己的业余爱好。也许只有我们这极少数把全部人生价值都绑在「我能不能证出别人证不出的定理」上的学者,才需要学会放下身段、跟自己和解吧。
不过,这还涉及到一个更基础的经济分配问题:假如未来的 AI 真的能一直像温顺友善的金毛寻回犬一样(就像眼下的 Claude 或 GPT 大多数时候表现的那样),始终处于人类的可靠控制之下,并为我们创造出近乎无穷无尽的物质财富;那么,这笔滔天财富究竟是会悉数流进少数几家 AI 巨头的口袋里,还是会由全人类共同分享?我当然希望是全人类共享。
阿瑟·克拉克:「不是去崇拜神,而是去创造神」
主持人: 科幻大师阿瑟·克拉克有一句话,我一直在脑子里挥之不去:「也许我们在地球上的使命,不是去崇拜上帝,而是去创造上帝。」你对这句话怎么看?
斯科特: 硅谷有一句著名的段子:如果问「上帝存在吗?」,硅谷给出的终极回答既不是「存在」,也不是「不存在」,而是「还不存在(Not yet)!」[笑声]
如果你常在旧金山的 AI 圈子里待着,天天都能听到关于「造神」的玩笑,还有人直接管它叫「沙之神」(sand god),因为制造硅基芯片的原材料就来自沙子嘛。当然,如果非要管它叫「神」,它显然不符合传统宗教对上帝的所有定义:宇宙诞生之初它并不存在;至于它爱不爱我们?那得看我们能不能通过编程让它爱我们了。
不过我认为,我们确实正在走向一种远远凌驾于人类智能之上的智能形态,在我们眼中,它将无异于神明。其实有些人在跟现有的 AI 互动时,就已经产生过类似的体验了:几千年来,人类一直向各路神明祈祷,却从来得不到回音;如今人类历史上第一次有了一个像神一样无所不知、而且真的会开口回答你的存在!
正因如此,我们现在才必须万分警惕。我们必须守住人类独立批判思考的能力;而眼下最大的危机恰恰在于,这些模型实在太好用了,好用到让人不由自主地想卸下思考的防线,它说什么你就信什么——顺着这条路走下去,危险无穷。
有史以来最伟大的心理咨询师
斯科特: 我自己平时也在用大语言模型干各种各样的事。(主持人: 我听说你曾把 GPT-5.6 称为「有史以来最伟大的心理咨询师」?)没错!当年我作为一个连跳好几级进大学的小屁孩,心里留下了不少至今还没完全愈合的童年创伤,我现在就会用它来帮我疏导这些个人心理问题,当然更会用它来做学术研究。无数人都在它身上开发出了五花八门的用途。
但无论如何,我们心里必须时刻绷紧一根弦:它们并不是真正的神,它们同时也是商业公司推向市场的消费品,背后掺杂着各种商业利益的塑造——包括想方设法让你上瘾、让你一直用下去的商业诱导。所以,哪怕我们在重度使用它们,也绝对不能丧失独立批判的判断力。我是一名大学教授,这也是眼下整个教育界最头疼的难题:我们到底该怎么劝动学生,让他们继续保持自己动脑子把问题想透的能力?
从希伯来学校到 12 岁的激进无神论者
主持人: 说到上帝,在准备这场访谈时,你身上有一点特别吸引我:你在硬核科学领域深耕了几十年,但与此同时,你在博客上又写了许多探讨灵性、宗教甚至存在主义的文章,这在科学家当中非常少见。
斯科特: 我在博客上基本上是想到什么有趣就写什么,或者写点闲篇来帮自己拖延正事。[笑声]不过话说回来,宗教与艺术本来就是人类体验的重要组成部分,只要你对世间万物充满好奇,自然也会对它们感兴趣。
主持人: 那你自己信仰什么?
斯科特: 我在犹太家庭长大,小时候上的是希伯来全日制宗教学校。大概到了十二岁左右,我读了艾萨克·阿西莫夫、卡尔·萨根和理查德·道金斯等人的书,突然幡然醒悟:「哇,原来我在宗教学校里学的那些东西,全都是铁器时代流传下来的古老神话啊,里头没有一件是真的!」
于是,在随后相当长的一段时间里,我变成了一个颇为激进的无神论者。我当时觉得,科学的发展留给上帝和神秘主义的空间越来越小,几百年来一直如此,未来也必然如此;上帝只会被逼进越来越狭窄的墙角——顶多也就是在宇宙大爆炸之初设定一下基本粒子标准模型的几个物理常数,设定完之后,发生的一切就全由物理定律接管了。
年轻时我一直抱持着这种观点。我记得读大学那会儿,计算机科学系里男生比例高达 80% 以上,我想认识女生都找不到地方去。当时我心想:「要是想认识女生,最好的办法大概就是去犹太学生联谊中心(希勒尔中心,Hillel House)参加活动了;可我明明不信教,跑去那儿岂不是太虚伪、太不诚实了吗?」
转念一想,我突然意识到这两边其实是不对称的:如果你真信奉一位时刻盯着你的人格化上帝,那你跑去参加世俗人文主义者的聚会,上帝说不定会惩罚你;可世上并没有一个「无神论上帝」会因为你跑去希勒尔中心联谊而降罪于你啊!既然你想去那儿体验社交生活,大大方方去就是了!想通了这一点,我对宗教文化的态度就变得平和从容多了,把它看作我自己历史与文化血脉的一部分。
每隔几代人,就会有人想要你的命
主持人: 对你来说,「身为犹太人」意味着什么?
斯科特: 首先意味着,大概每隔几代人,世界上就会有一帮人想要你的命,对此你心里最好时刻有数。在我小的时候,这句话还只是书本上看来的抽象知识,或者是听我祖父母辈讲起的陈年旧事;但到了今天,我们对这句话有了具体得多、也切肤得多的体会。这是第一层含义。
更深一层来说,随着年龄增长,我的思想也经历了一番演变。我越来越深刻地体会到:伦理学是真的很难。 就算我们把所有基本粒子在各种状态下的物理规律研究得底朝天,依然回答不了「人应该怎样活着」,也回答不了「我们到底应该把哪些实体纳入道德关怀的圈子里」。
我们当然希望把所有人类都纳入道德关怀的圈子;可胎儿算不算?非人类的动物算不算?未来的 AI 算不算?到底谁有资格进入这个受保护的「有意识生命」圈子?更何况,任凭科学取得了多么辉煌的进步,我们面前依然横亘着「意识的困难问题」(hard problem of consciousness),在客观物理过程与主观能动体验之间,依然存在着一道巨大的解释鸿沟。
如果怀着善意与同情去理解宗教,你会发现,古人其实已经用他们那个时代仅有的概念工具,跟这些终极难题搏斗了几千年。当然,古人的科学认知和道德观念都比现代原始得多,所以里头充满了各种荒谬和错误;但如果你去读读佛教传统,或者去读读世界各大主流宗教的思想传统,会发现里头沉淀着大量极其深邃、值得珍视的思考。
犹太教的第一步:强权不等于公理
斯科特: 而在所有宗教传统里,犹太教传统有一点格外突出:它大概是人类历史上第一个明确喊出「强权不等于公理(Might does not make right)」的文明。
当年第一圣殿被毁,犹太人沦为阶下囚、被流放到巴比伦。按照远古时代的普遍逻辑,战败的民族理所当然会认为:「我们的神败给了巴比伦的神,看来巴比伦的神才是更强大的真神,我们赶紧改拜巴比伦的神吧。」而今天我们所知的犹太教,恰恰诞生于犹太人拒绝这套强权逻辑的那一刻——他们说:「不,不是上帝辜负了我们,而是我们自己没有守好正义、辜负了上帝;打赢了仗并不代表巴比伦人就掌握了公理!」
而在整部《圣经》里,有一卷书对这类问题的探讨比其他任何篇章都要深刻精彩得多,那就是《约伯记》。
《约伯记》与容忍不公的上帝
斯科特: 《约伯记》直截了当地抛出了那个最尖锐的问题:如果世上真有一位全知全能的上帝,他怎么能容忍世间发生这么多不公,甚至亲手降下这些无妄之灾?
主持人: 你自己对这个问题怎么回答?
斯科特: 《约伯记》在结尾给出的那个著名回答,大意是上帝在旋风中呵斥道:「你这个渺小的人类,凭什么自以为有资格搞懂我的安排?」在我看来,这属于非常不能让人满意的「答非所问」。
如果非要给出一个现代的回答,也许我们可以说:面对世间的不公,我们不该逆来顺受,而应该奋起抗争!甚至可以说,今天人类致力于打造「对齐的超级 AI」这项宏伟工程,在某种意义上就像是在对老天爷说:
「那我们就自己动手,让真正公正的神降临世间」
斯科特: 「去他的吧!既然老天爷容忍这世间存在如此多的不公,那我们就自己动手,把一个真正公正仁慈的『神』创造出来!」
十月七日、加沙,以及他依然期盼的「两国方案」
主持人: 在准备这次访谈时,我纠结了很久要不要跟你聊社会政治话题;但我读到了你写的三篇极其引人深思的博文。我想,既然我把这档播客命名为《活出意义来》,如果对眼下世界上正在发生的惨剧避而不谈,实在是一种耻辱。其中一篇博文写于「十月七日」袭击之后,你在文中还呼吁其他国家为以色列人提供庇护。我想请你分享一下,你对眼下加沙正在发生的一切怎么看?
斯科特: 这是一场彻头彻尾的悲剧。我不希望看到任何一方的任何无辜平民丧生。从始至终,我一直支持早年称为「分治」、后来称为「两国方案」的解决之道——这也是我心目中唯一的终局,就是让两个民族和平地比邻而居。
上世纪九十年代我还是个十几岁的少年时,在美国,只要你是一个思想开明、满怀善意的自由派人士,「两国方案」就是最顺理成章、不言自明的共识。可「十月七日」袭击彻底撕开了一层遮羞布,暴露出一种截然不同的极端思潮已经在学术界蔓延开来。
这种思潮最初源于伊斯兰世界和前苏联的宣传,后来通过爱德华·萨义德(Edward Said)等人传入西方学术界。我当年在伯克利读博的时候就已经见识过这种意识形态了:2001 年「9·11」恐怖袭击发生的当天晚上,伯克利校园里办了一场守夜活动,现场居然有一帮人在高喊「美国纯粹是罪有应得」!到了 2002 年第二次巴勒斯坦大起义期间,有人甚至冲击了校园里的大屠杀纪念活动,还扔石头砸碎了犹太学生希勒尔中心的玻璃窗。(主持人: 我还从来没听说过这事!)
所以我很清楚,在学术界的极左翼边缘,借着后殖民主义理论、后现代主义和解构主义的外衣,早就滋生出了这样一种思潮。他们公开宣称:「我们根本不想要什么两国方案!犹太人纯粹是一群外来定居殖民者,根本不配待在那片土地上,应该统统滚回波兰去!」——殊不知,当年之所以有大批犹太人在 1940 年代流落到以色列,恰恰是因为他们在欧洲的全家老小都遭到了屠杀,而当时整个地球上没有任何其他国家愿意收留他们;更何况还有大量犹太人本来就是从中东各国被驱逐出来的。可在这帮人嘴里,不管考古学挖出了多少铁证,犹太人与那片土地的历史渊源全都是编造出来的神话,以色列人就跟当年在阿尔及利亚的法国殖民者、或者南非的白人政权一样,没有任何权利活在那里。
几十年来,这种论调在美国社会一直只是极少数边缘人的极端观点;可就在「十月七日」大屠杀发生的当天,我们震惊地看到,这种思想已经彻底癌变扩散,成了各大名校校园里的主流声音!就在大屠杀发生的当天,各大顶尖学府里都有人在欢呼庆祝,高喊「以色列人终于得到了应有的报应」——而在他们眼里,所谓的「报应」居然就是用极其残忍的方式把所有以色列人杀光。
为什么总是犹太人?幕后操纵一切的替罪羊
主持人: 在人类历史上,为什么偏偏是犹太人这个群体,会遭受如此漫长、如此深重的排挤与仇视?你对此有什么看法吗?
斯科特: 这里头确实藏着某种极其深层、极其原始的心理机制,可以一直追溯到西方文明的源头,伴随了人类几千年。要是没有这种延续千年的深层敌意,历史上就不可能发生一轮又一轮的驱逐,更不可能发生纳粹大屠杀。
当然,这已经远远超出了我的专业领域,我并不是研究反犹主义或犹太历史的学者。但根据专门研究这一课题的学者的分析,反犹主义从某种意义上说,其实根本不是关于犹太人的。
它的本质在于:当一个社会面临剧烈动荡与困扰时——无论人们痛恨的是资本主义、共产主义、移民问题还是女权主义——社会大众总需要找一个理由,把各种各样互不相干的不满情绪凝聚起来;大家迫切需要一个「躲在幕后操纵一切、把这些祸害传染给我们文明的大反派」。人们幻想着:只要我们团结起来,把这个邪恶的幕后黑手彻底铲除,人间就会立刻变成乌托邦!
不知出于什么历史机缘,早在两千年前,犹太人就被死死钉在了这个「幕后替罪羊」的槽位上。很大一部分原因源于早期基督教的历史裂痕:《新约》的作者们自己本来也是犹太人,只是属于支持耶稣的犹太派系,正在跟其他不支持耶稣的犹太同胞激烈论战;结果传到后来,演变成了整个犹太民族背负着「弑神(杀害上帝之子)」的原罪——犹太人非但没因为孕育了耶稣而得到半点感激,反而因为所谓「把耶稣交给罗马人」而背上了千古黑锅。
再往后的几千年里,欧洲各国禁止犹太人务农和从事绝大多数常规行业,犹太人为了谋生,只能去干基督徒不屑于干或教规禁止干的行当,比如经商贸易和金融放贷。纵观世界历史,凡是擅长经商和金融的少数族裔——比如印度的帕西人、马来西亚的华人——往往都会因此招来主体民族的嫉恨与妖魔化。所有这些历史恩怨层层叠加,最终酿成了延续千年的反犹毒瘤。
「血统美国人」,以及依然深爱美国
主持人: 在今年 7 月 4 日美国建国 250 周年的博文里,你庆祝了美国的生日,称自己「归根结底依然是一个彻头彻尾的美国人」;但与此同时,你也批评了「特朗普 2028」竞选活动里鼓吹的所谓「血统美国人」(Heritage Americans)概念——因为那种排他的定义把像你这样的人排除在了外头。眼下身为一个美国人,你心里是什么滋味?
斯科特: 我认为,越是在这种时候,我们这些真正认同美国立国理念的人,就越要大声喊出来:我们热爱美国,热爱美国所代表的价值!
在整个人类充满苦难与荒唐的历史上,美利坚合众国的建立,绝对是最伟大的奇迹之一。人类历史上第一次有了一个明确建立在自由主义启蒙原则之上的国家。诚然,当年的建国先父们自身有着严重的时代局限,其中不少人甚至蓄奴;但他们亲手设计并建造了一台「能够自我纠错的宪政机器」,使得这个国家在随后的两百多年里能够不断自我完善、自我改良。这是一项惊天动地的伟业。如果一个人活在世上非要向什么东西宣誓效忠的话,向这套理念宣誓效忠绝对当之无愧。因此,我为自己身为美国人感到无比自豪。
与此同时,我对我们现任的总统以及他所代表的一切感到无比厌恶。这背后的原因对任何明眼人来说都显而易见,根本无需多言:他可以说是美国历史上第一位从心底里彻底唾弃美国立国原则的总统。他毫不掩饰地表明,只要条件允许,他巴不得直接当独裁者;而他麾下的大批拥趸偏偏就好他这口、盼着他独裁。一个毫不掩饰自身威权独裁倾向的人,居然能两次赢下美国大选,实在让人不寒而栗。
不过,哪怕看清了这一切,我也依然能实事求是地承认:有时候他也会干出几件我赞同的事;而且有时候,对面阵营里的极左翼极端分子,让我感到恐惧的程度甚至比他这边的极端分子还要深!但无论如何,眼下美国两大主流政党对启蒙运动的基本原则——自由主义、言论自由、民主制度、科学精神,以及对客观现实的共同基本认知(这些在我成长的年代原本都是天经地义的共识)——竟然都缺乏最起码的尊重,身处这样的时代实在令人痛心。
模糊容忍度:同时容纳两种看似矛盾的观点
主持人: 你刚才展现出的这种思维特质,我一直觉得特别宝贵,心理学上管它叫「模糊容忍度」(ambiguity tolerance),也就是在脑子里同时容纳两种看似矛盾的观点的能力——比方说,一个人可以在某些方面持保守主义立场,同时又出于某种理由支持堕胎权。可在今天的主流社会里,绝大多数人都丧失了这种能力,彻底陷入了非黑即白的二元对立思维,我觉得这是当今社会最根本的病根之一。
斯科特: 是啊,现在要想跨越阵营展开理性对话,真是越来越难了。在我自己的博客上,我对此有着切肤之痛:我 2005 年刚开博客那会儿,评论区里不同观点的人要想展开理性辩论,比今天容易得多。
至于为什么会变成这样,一方面是因为整个互联网变得越来越极化;另一方面也是因为随着我自己名气变大,博客不仅吸引了读者,也招来了大批网络喷子和疯子。再加上这些年我确实公开表态支持过一些颇具争议的立场。
在我内心深处,有一部分声音始终觉得:既然我拥有这个发声平台,又拿到了终身教职——大学设立「终身教职」(tenure)制度的初衷到底是什么?不就是为了保障学者能够无所畏惧地讲出真心话,哪怕那些话换作别人说出来可能会惹火上身吗?我不想当一个懦夫。我希望自己能像心中的偶像伯特兰·罗素那样,坦荡地讲出心里的真实想法,用严密的论证去捍卫自己的信念,同时认真倾听别人的反驳,一旦发现自己错了就随时准备修正。
可硬币的另一面是,一旦你在某个公共议题上亮明了立场,这件事往往就会彻底盖过你做的其他所有学术工作。万幸的是,虽然这些年有过几次惊险的擦边球,但我还没有真正遭到「取消(封杀)」;即便如此,应付网络骂战也会耗掉你惊人的时间和精力。当网上有几百个人同时恶毒咒骂你时,你本着知识分子的本能会想:「既然有人不同意我的观点,那我应该跟他们展开理性对话和辩论。」可当你面对的是五百个根本不想跟你讲道理、只想靠车轮战把你彻底拖垮的人时,这就变成了一场针对你个人精力的「拒绝服务攻击(DDoS)」,让理性交流变得难上加难。
他给全人类的寄语
主持人: 如果你只能让听众从今天这场对话中带走一句话,你希望是什么?你对全人类的行动呼吁(CTA)是什么?
斯科特: 请密切关注眼下 AI 领域正在发生的事!
千万别再去听信那些说「AI 全是骗局、只是随机鹦鹉(stochastic parrot)、全是瞎忽悠」的言论了。那种腔调自以为看透一切,实则是犬儒到了极点,反而害了自己。
我要把话挑明了:眼下 AI 真正的问题,不在于它不管用,而恰恰在于它真的管用! 它现在做出来的这些事,要是坐时光机送回二十年前或三十年前,全世界任何一个正常人都会毫不犹豫地承认这就是真正的智能;只是因为我们太快对它习以为常了,今天才有人在那里喋喋不休地争论它到底算不算智能。
把一种全新的智能形态带到这个世界上,本质上绝不是一件安全的事——哪怕是我们生养人类自己的孩子,都没法保证绝对安全,[笑声]何况人类孩子好歹跟我们血脉相连、彼此相似;而我们眼下创造出来的,是人类历史上从未见过的全新智能物种。
也许最终一切都会皆大欢喜:也许我们真能引导它助力人类的繁荣,让它成为那位在人类历史上千呼万唤却从未现身的「仁慈之神」,这一次真的显灵,带我们步入某种千年盛世;但我们同样可以轻易想象出彻底毁灭的灾难剧本。
以前每当有人谈起这些,别人总会一笑置之:「你纯粹是科幻小说看多了!」而现在有句名言说得好:你最好赶紧习惯谈论科幻小说,因为我们已经活在一部科幻小说里了!
什么让生命充满意义?
主持人: 最后,让我们回到本播客的主题《活出意义来》:在眼下这个时代,是什么让你的生命依然充满意义?
斯科特: 眼下赋予我生命意义的,首先是我的两个孩子、我的家人、我的学生,以及教学本身。
今年夏天,我去了犹他州的一个数学夏令营,给一群十一二岁的孩子上了两个星期的理论计算机科学课。(主持人: 哎呀,我真该去报个名旁听!)哈哈,我九岁的儿子当时也是营员之一。
在夏令营里我能明显感觉到,哪怕是这群十一二岁的孩子,也已经隐约看到了天边聚集的乌云——他们心里很清楚,自己正在苦学的这些数学知识,如今 AI 全都能做,而且多半比他们这辈子能做到的还要强。可即便如此,他们依然来到这里,一心一意想要学懂数学!在课堂上,孩子们把所有电子设备统统收起来,我们只用黑板、粉笔、纸和笔来推导。
对我自己而言,「理解数学」向来是我人生意义的核心源泉;而亲眼看到新一代孩子怀着「管他外头天塌下来,我们就想学数学」的纯粹热情坐在教室里,更给了我无比强烈的意义感。
思考科学问题同样赋予我意义。我觉得,哪怕将来有一天 AI 在解决所有科学难题上都彻底超越了人类,这份意义也依然不会消失。眼下还有一点活儿留给我们人类去干;但就算到了 AI 包揽一切数学和科学研究的那一天,我依然能从「向 AI 提问、并努力听懂它的回答」中获得人生的意义——因为我是发自内心地想知道宇宙中那些大问题的答案。这就是支撑我的另一个意义源泉。
主持人: 斯科特,今天这场对话实在太震撼、太发人深省了。首先我由衷钦佩你敢于直言的勇气,感谢你为大众发声,有胆量撰写并探讨这些最棘手、最具争议的话题。
斯科特: 谢谢!你今天提问切入的好几个方向,也是我事先完全没料到的,绝大多数播客主持人都不敢碰这些话题。(主持人: 这正是我们坐在这里的意义嘛!)一点没错。
主持人: 非常感谢你带来的精彩讲解,让我对量子计算、AI 以及你的人生故事大开眼界,聊得太棒了,谢谢你!
斯科特: 不客气,聊得非常开心!
Thoughts Memo 汉化组译制
感谢主要译者 gemini-4-argon,校对 Jarrett Ye
原播客:OpenAI Insider REVEALS: We’re Building God & Nobody Is Ready!