超人类的未来与 AGI 的未来
对于我们来说,人类是一个所有人都向其迈进的遥远目标,没人知道它到底是什么模样,它的法则也未曾写在任何地方。
—— 赫尔曼·黑塞,《Demian》
尽管我大半生都浸淫在超人类主义(Transhumanism)的思潮之中,但我对 AI 从未真正上心过。因为我是一名古典超人类主义者:我渴望利用技术去重塑并升华我自己,以便让我自己能够成就更伟大的事业。因为我,作为独立的个体,渴望亲自去学习、去思考、去行动,而不是造出一台机器来替我学习、替我思考、替我代劳。在这样的世界观下,AI 本身根本毫无趣味可言——它充其量只是一块权宜的垫脚石,用来帮我们更快地点亮超人类主义的科技树罢了(然而讽刺的是,技术演进本身显然另有打算)。
如今,技术发展的轨迹已经演变成这样:我们离 AGI(通用人工智能)更近,而离超人类主义更远。但是,姑且不论两者谁更容易实现,有一点让我既惊讶又沮丧:「AGI 的未来」似乎比「超人类的未来」(准确地说:是超越了人类,但依然是人类后裔)要受欢迎得多。我本以为「化身为神」会比「打造一个仁慈的神明来统治我们」更具吸引力。
这让我对人类感到更加悲观与愤世嫉俗。大多数人并不想变得更强大、做更多事、懂得更多。他们只想看着 Netflix 混吃等死。他们想要的是科幻小说 《文明》(The Culture) 的世界:一个由 AI 掌管的无尽假期,在那里他们可以消费上几个世纪的娱乐内容,然后因为无聊而自我安乐死。当你告诉他们,AGI 意味着权力的剥夺、未来的终结以及放弃自身的自主权时,他们根本不在乎。选择和自主权对他们来说反而是一种负担。他们渴望在除了感官享乐之外的所有维度上死去。就像一群穿着尿布、由机器饲养的黑猩猩。
这实在可悲又可鄙:为了一碗红豆汤,就出卖了人类与生俱来的高贵权利。
我所梦想的未来,是一个我们拥有选择权、去成就更大伟业的未来:去看更多,体验更多,知道更多,创造更多。去建造不可思议的奇观。在那个世界里,它的艺术与科学之于我们现在的文明,就像古典艺术大师的杰作之于黑暗时代那些粗劣的硬币。它不是 LessWrong 论坛上那种功利主义者所鼓吹的偏执、妥协又抽象的单一文化(用喂食合成大豆的虾提取的纯粹享乐物质铺满整个宇宙),而是一个多元的未来,在从原子到星系的每一个尺度上都充满着人类的印记。在那里,基线人类可以在被俄罗斯套娃脑(Matrioshka brains)遮蔽的星光下耕种土地、在海洋中遨游;那里有会思考的玻璃,有被注入灵魂的琉璃。人类将辐射演化成无尽的、最壮美的形态——去攻克天堂,废除死亡——形成一个以地球为中心的生命物质球,在宇宙中不断扩张,将坑洼的陨石与冰层化作海洋与花园,将死物点化为生灵,向死寂的世界吹入生命之息——把整个宇宙变成一座大花园——正如那句「在沙漠中开江河」。在 《论人的尊严》 中,Giovanni Pico 写道:「[上帝]早已用纯粹的理智装点了超天界之域,将不朽灵魂的生机注入了诸天星辰」。我更愿意将其读作一个预言:「诸天乃汝手所造」。
但我们绝非注定要背叛自己。另一条道路始终就在那里,只要我们下定决心,它随时为我们敞开。那个更伟大的未来,需要我们果断叫停对超级人工智能(ASI)的盲目制造,转而全力加速人类自身的超凡进化——唯有如此,真正栖居于未来星辰大海中的,才会是我们人类自己,而不仅仅是我们留下的冰冷造物。
Thoughts Memo 汉化组译制
感谢主要译者 gemini-3.1-pro,校对 Jarrett Ye
原文:The Other Road
发布日期:2026 年 9 月 10 日