把卵石分进正确的堆里

Sorting Pebbles into Correct Heaps

❦

很久很久以前，有一个奇怪的小种族——它们也许是生物，也许是人造物，甚至也许只是一场梦——它们的热情所在，就是把卵石分进正确的堆里。

它们说不出，为什么有些堆是正确的，而有些堆是不正确的。但它们全都一致认为，世上最重要的事，就是造出正确的堆，并把不正确的堆打散。

分卵石人为什么会如此在乎这件事，这段历史已经无从考证——也许是一种费雪式失控性选择，在一百万年前纯属偶然地启动了？又或者，它们本身其实是某种奇异的有感知艺术造物，由更强大的心智创造出来，后来又被遗弃了？

但对它们来说，把卵石分堆这件事重要得惊人，以至于所有分卵石哲学家都异口同声地说：把卵石分堆就是它们生命的真正意义；并坚持认为，吃饭唯一正当的理由是为了分卵石，交配唯一正当的理由是为了分卵石，参与它们世界经济的唯一正当理由，则是为了高效地分卵石。

分卵石人全都同意这一点，但它们并不总能就哪些堆是正确的、哪些堆是不正确的达成一致。

在分卵石文明的早期，它们造出的堆大多都很小，数量像 23 或 29 这样；更大的堆是否正确，它们就分辨不出来了。三千年前，伟大领袖 Biko 造了一堆 91 枚卵石，并宣布它是正确的；他那一大群崇拜他的追随者也照样造出了更多这样的堆。但几个世纪过去，随着比科派势力逐渐衰落，最聪明、受教育最多的人心中开始慢慢积累起一种直觉：91 枚卵石的一堆是不正确的。直到最后，它们终于明白了自己曾经做过什么：于是打散了所有 91 枚卵石的堆。这并非毫无惋惜，因为其中有些堆是伟大的艺术作品——但它们不正确。它们甚至连 Biko 最初的那一堆也打散了——那一堆由 91 颗珍贵宝石组成，每一颗的种类和颜色都不同。

此后，再没有哪个文明认真怀疑过，91 枚的一堆是不正确的。

如今，在这更为明智的时代，分卵石人敢于尝试的堆的规模已经大得多了——大家都同意，只要它们能确保这些堆真的正确，这将是一件无比伟大而美好的事。那些对哪些堆才是正确的意见不同的国家之间，曾爆发过战争：分卵石人永远不会忘记 1957 年大战，那是 Y’ha-nthlei 与 Y’not’ha-nthlei 围绕 1957 枚卵石之堆而爆发的战争。这场战争见证了核武器在分卵石星球上的首次使用，最终则在 Y’not’ha-nthlei 哲学家 At’gra’len’ley 并排展示出一堆 103 枚卵石和一堆 19 枚卵石时画上句号。这一论证极具说服力，甚至连 Y’ha-nthlei 也不情愿地承认，至少暂时最好停止建造 1957 枚卵石的堆。

自 1957 年大战以来，各国都不太愿意公开支持或谴责大规模的卵石堆，因为这太容易导致战争了。的确，有些分卵石哲学家——他们似乎从用自己的犬儒态度震惊他人这件事里获得一种实实在在的快感——彻底否认了分卵石这件事存在进步；他们认为，人们对卵石的看法只不过是在时间中进行随机游走，彼此之间并无连贯性；所谓进步，不过是把一切与当下不同的过去都谴责为错误，从而制造出来的幻觉。这些哲学家指着人们对大规模卵石堆的分歧，把它当作证据，证明并不存在什么东西能让一个 91 枚卵石的堆真正变得不正确——只不过是在某个时候，建造这样的堆很时髦；而到了另一个时候，谴责它们又变得时髦了。「可…… 13 啊！」这种话也说服不了他们；因为在他们看来，把「13 啊！」视为有说服力的反驳，本身也只不过是另一种约定俗成。堆相对主义者声称，他们的哲学也许有助于防止未来再发生类似 1957 年大战那样的灾难，但它仍被广泛视为一种绝望哲学。

如今，究竟是什么使一个堆正确或不正确，这个问题已经带上了新的紧迫性；因为分卵石人可能很快就要着手创造自我改进的人工智能。堆相对主义者已经对这个项目发出了警告：他们说，AI 并不属于 Pebblesorter sapiens 这个物种，因此可能会形成自己的文化，对哪些堆是正确的、哪些堆是不正确的抱持完全不同的看法。「它们可能会认定 8 枚卵石的堆才是正确的，」堆相对主义者说，「而且归根结底，它们也不会比我们更对或更错；可是，我们的文明认为我们不该建造这样的堆。创造 AI 并不符合我们的利益，除非把炸弹绑在所有计算机上，这样就算 AI 觉得 8 枚卵石的堆是正确的，我们也能强迫它改去建造 7 枚卵石的堆。否则，轰！」

但对大多数分卵石人来说，这听上去很荒唐。一个足够强大的 AI——尤其是某些超卵石主义者（transpebblesorterists）整天挂在嘴边的那种「超智能」——当然能够一眼看出哪些堆是正确的，哪些堆是不正确的！一个脑子大得像行星一样的东西，竟会觉得 8 枚卵石的一堆是正确的，这种念头实在荒谬得根本不值一提。

事实上，试图约束一个超智能该如何把卵石分进堆里，是一项彻头彻尾徒劳无功的工程。假如在那个原始时代，伟大领袖 Biko 就已经能够造出一个自我改进的 AI；而且他把它构建成一个期望效用最大化器，其效用函数告诉它：要尽可能多地造出 91 枚卵石的堆。那么当然，等这个 AI 自我改进到了足够高的程度，并变得足够聪明之后，它就会一眼看出，这个效用函数是不正确的；而且，由于它有能力修改自己的源代码，它会重写自己的效用函数，转而重视更合理的堆规模，比如 101 或 103。

当然，更不可能是 8 枚卵石的堆。那就只是愚蠢而已。任何蠢到这种程度的心智，都笨得不足以构成威胁。

在这种常识的安慰之下，分卵石人全速推进自己的计划：在大型计算机上胡乱拼凑大量算法，直到某种智能涌现出来。整个文明史都表明，更富有、更聪明、受教育程度更高的文明，更有可能就那些它们祖先曾争论不休的堆达成一致。没错，之后它们又会开始争论更大的堆——但技术越是进步，人们达成一致并真正建造出来的堆就越大。

事实上，智能本身一直都与制造正确的堆相关——分卵石人最近的演化近亲卵猩猩（Pebpanzees），只会造出大小为 2 或 3 的堆，偶尔也会造出像 9 这样愚蠢的堆。而其他更不聪明的生物，比如鱼，则完全不会造堆。

更聪明的心智，等于更聪明的堆。为什么这一趋势会中断呢？