问题描述
9月11日，陶哲轩、邓煜等25位菲尔兹奖得主联合发表公开信《人工智能在数学中的严重错位》，指出AI公司把解决数学问题当作基准测试推进，对数学共同体有害。声明承认AI有加速数学研究的潜力，但反对匆忙公布结果：来不及写论文、提炼新方法、引用在先工作。
导火索是9月8日OpenAI宣布其模型用1万个智能体、88小时完成Navier-Stokes千禧年难题证明，而数学家Tristan Buckmaster同日公布同类成果，质疑OpenAI获取了其研究信息。
公开信诉求包括给写作与思想提炼留时间、标注先前工作、承认需要人类数学家接手消化。
还是太乐观了。
AI 不仅毁掉数学，还会毁掉人类。
其实从本问题下的一些支持 AI 的回答来看，都可以总结成一句话：数学家的工作都是没有意义的，我才不关心是 AI 服务我还是数学家服务我。但如果把这一观点推广一下，那就是没有人的工作是有意义的，全部都最好换成 AI：
……我们往往认为自己的工作是充满意义的，但在看待其他大多数人的工作时，我们却抱有一种工具主义的心态：我们只关心最终结果，而不关心作为手段的人类。因此，在推销自己时，我们会着重强调人类的特质，如经验、声誉、信任、人脉等；但在消费购买时，我们却只想要便宜、快捷和方便。并且，在其他条件相同的情况下，我们更青睐冰冷的交易，而非充满人情味的互动。Waymo 就算比 Uber 慢一些、贵一些，也依然比 Uber 好上一千倍，因为里面没有人类驾驶员。
这背后的潜台词是：无论你从事什么工作，大多数人都更希望能有一种替代方案，在不与人类打交道的前提下，为他们提供相同甚至更好[1]的结果。也就是说，如果你去问地球上的每一个人，他们希望看到哪些工作被自动化，把所有的答案汇总起来，结果就是所有的工作。一个不剩。
我们在日常消费品和服务中就能看到这种现象，这些广告似乎常常建立在这样一个前提上：你是一个活在人类微型生态箱里的柱顶修士（苦行僧），大概住在一栋名叫「The Soho」之类的高级公寓里，一日三餐通过墙上的送餐口递进来；你过着一种完全独立、自我沉浸的生活，不在这个世界上留下任何物理痕迹。
我们越来越频繁地在知识型工作领域看到这种现象。就我个人而言，我认为软件工程是一项极具意义且能在智力上带来丰厚回报的活动。但用户只想要能跑得起来的软件。他们付钱给我，并不是为了让我坐在那里，把数据库的 API 精雕细琢成一块闪耀着无瑕几何逻辑的宝石。他们才不在乎我对 Standard ML 模块系统有什么看法。他们只想要软件。既然每个月只要花 20 美元，你就能唤醒一个机器幽灵，让它不知疲倦地、瞬间为你写出成百上千行基本能运行的代码，那你为什么还要去和一个固执己见的疯子程序员打交道呢？
许多软件公司已经显露出了他们的偏好：让 AI 来写代码，让软件工程师往上走一层，去驾驭这些 AI，并填补 AI 做不到的空白。但这并不是因为公司喜欢雇佣人类，而是因为现阶段的 AI 模型还存在严重的局限性：无法在线学习，没有可变的长记忆；而且，虽然它们写出的代码能运行，但它们并不擅长组织和构建这些代码。如果在未来，这些局限性被攻克了（而且现在正有数万亿美元被投入到攻克这些难题上），那么软件工程作为一门职业将会彻底消失。
数学家们如今也正在经历这一过程，这与软件工程领域发生的事情如出一辙，只不过晚了十二个月。区别在于，大多数数学家对他们所在领域的「去智力化」深恶痛绝，而软件工程领域则充斥着目光短浅、深受内卷文化洗脑、毫无好奇心且反智的功利主义者，他们一想到自己再也不用阅读或编写哪怕一行代码，再也不用动用形式系统进行思考，就高兴得手舞足蹈。既然如此，我们为什么还要进行推理呢？我们的仆人自会替我们代劳。
那么艺术呢？艺术是意义的巅峰，所以艺术家理应是安全的。但每一件艺术作品都由两部分构成：一部分是具体的实体，比如一段文字、一幅画或一首交响乐；另一部分则是人类元素的星系：是谁创作了它，为什么创作，他们在创作时试图驱除内心的何种狂热，是哪位缪斯女神将灵感注入他们体内，围绕这件作品产生了哪些探讨，它又启发了后来的哪些艺术创作，等等。而这些元素是可拆分的：你可以纯粹为了其审美价值、作为一连串感官体验来欣赏一件艺术品，同时忽略其他所有维度。
现在，假设有一台机器能够瞬间、几乎零成本地生成在审美价值[2]上与你相媲美的文本或图像。你的受众里会有多少人离你而去？关系型工作也面临着类似的问题：你可能很享受做播客的感觉，但你的听众里有多少人会更倾向于听一段由 AI 生成的、内容永不枯竭且主题完全定制的语音流呢？
这是一个经验主义的问题，我们目前还无法给出答案，因为 AI 还没有进化到那一步。但我们最终可能会发现，我们自身的偏好远没有我们自诩的那么充满人文情怀，而是比我们想象的要自私和唯我得多。
——《我们的仆人会代劳》
但别急，我发这篇翻译不代表我同意作者的观点。
在现实和网上与很多人打过交道后，我也觉得，人与人之间很难相互理解，有些人之间可能最好不要相遇，不然只会互相伤害。人类的雷点千奇百怪，一不小心就踩上了。或许追求人与人之间的理解是非常可贵的，但这或许对不擅长社交的人而言只是吃力不讨好。
至于如何看待 AI 代替我这件事，我走上编程这条路的几个初衷之一，就是写出程序代替我完成各种事情。在网上写学习教程、翻译教育批判文章、解答别人问题、维护开源项目等等，当然给我带来了很多乐趣，但同时也有很多负面反馈。如果我的目标就是输出这些信息，那让 AI 来做也未尝不可，只要 AI 能达到我的水平就好。这样我也不用被那些负面反馈影响坏了心情。
或许这正印证了前文作者所言，我的偏好远没有我自诩的那么充满人文情怀，而是比我想象的要自私和唯我得多。
我只想看一辈子百合小说。