本文转自： https://www.indigox.me/why-the-future-does-not-need-us/
仅做个人收藏，版权归原作者所有
二十五年前，Sun Microsystems 的联合创始人兼首席科学家 Bill Joy 在《连线》杂志上发表了一篇雄伟《Why the Future Doesn’t Need Us》来警世 —— 基因、纳米技术和机器人（GNR 技术）可能带来的极大风险。这篇文章在当时的科技界引起了震动，随着时间流逝，我们开始看到 Joy 的担忧虽有先见之明，但却未能预见 21 世纪真正的转折点：通用人工智能（AGI）的出现。
我依然记得第一次读 Joy 文章时对纳米自我复制技术的描述所震撼，那是 2001 年，我刚进大学学习计算机科学。但现在回头看，他担心的是技术可能失控，而我们今天面临的情况更加微妙：技术完全按照我们的期望运行，却彻底改变了作为人类的我们在世界中的位置。
如果说工业革命赋予了我们机械的肌肉，那么 AI 则赋予了我们机械的思维。不同的是，当机械肌肉出现时，我们仍然拥有不可替代的思维；而当机械思维超越我们时，我们还剩下什么？
一、当劳动不再定义我们
“我是谁？”这个问题曾经有一个简单的答案：我是一名教师、一位工程师、一个医生、一位作家。我们的身份与我们的劳动紧密相连。即使在休息时，我们也是”休息中的教师”或”度假的医生”，我们的价值感源于我们提供的服务和创造的产品。
现在想象一个世界，其中最优秀的教师是 AI，最精确的外科医生是 AI，最富创意的作家是 AI，最有远见的科学家也是 AI。我们将如何定义自己？
2024 年末，L Rudolf 在《Capital, AGI, and human ambition》一文中指出了一个关键转变：AGI 将使资本成为劳动力的完美替代品。过去，资本需要人类劳动才能产生价值 —— 即使是最昂贵的机器也需要操作员。但在 AGI 的世界中，资本可以直接购买结果，无需人类中介。
作者曾与一位自动驾驶工程师交谈。三年前，他是一家顶级公司不可或缺的专家，年薪超过 30 万美元。今天，一个经过微调的大型模型可以完成他 80% 的工作，而且不会疲劳，不需要医疗保险，也不会要求涨薪。最讽刺的是，”我们一直在努力创造能取代我们自己的算法。现在我们成功了，却不知道接下来该做什么。”
这不仅关乎工作岗位的消失，这是关于人类价值的重新定义。
几千年来，社会契约建立在一个简单的交换之上：你的劳动换取生存和尊严。即使在最严酷的社会制度下，统治者也需要被统治者的劳动。但当 AGI 能够执行所有形式的劳动时，这种相互依赖关系就会崩溃。
技术乐观主义者会指出全民基本收入（UBI）作为解决方案。当机器创造足够的财富时，我们可以简单地向所有人分发足够的资源。但这忽略了一个基本问题：当大多数人对生产过程不再有贡献时，他们的议价能力从何而来？没有经济杠杆，如何确保政治力量不会集中在拥有资本和 AI 的少数人手中？
二、权力的重构
人类历史可以被视为一系列权力转移。从部落首领到宗教机构，从封建领主到民族国家，从工业资本家到信息时代的技术精英。每一次转变都伴随着社会流动性的时期 —— 旧秩序崩溃，新秩序建立，为新的参与者创造机会。
AGI 的出现标志着另一次权力转移，但有一个关键区别：这可能是最后一次。因为 AGI 消除了过去所有社会变革的催化剂：人力资源的必要性。
Rudolf 在他的文章中提到的历史上的革命性创业故事。莱特兄弟用自行车店的资源击败了资金充足的兰利；乔布斯和沃兹尼亚克从车库起步，创造了超越既有巨头的公司；SpaceX 以较少的资源实现了蓝色起源未能实现的目标，这些都是人类才能在资本稀缺条件下创造奇迹的故事。
在 AGI 世界中，这种路径将消失。正如 Rudolf 指出的，当顶尖人才可以被完美复制时，资本将直接转化为结果。不再需要寻找独特的人类才能，不再需要冒险投资于未经证实的创业者。资本将简单地购买最佳 AI 并部署它。
“为什么我要投资于一个有潜力但未经验证的创始人，当我可以直接部署资本购买计算能力并运行数百个由AI管理的创业实验？” 这不是理论上的情景 —— 这些对话正在硅谷的会议室中进行。
这种资本优势的强化将创造一个前所未有的静态社会。那些在 AGI 转型前拥有资源的人将锁定其优势；那些没有的人将永远落后。社会流动性 —— 那个维持了数百年”美国梦”的概念 —— 将成为历史文物。
更令人担忧的是权力集中的过程。一旦 AI 可以执行政府职能，治理国家所需的人力将急剧减少。这看似效率的提高，但也意味着民主制衡的削弱。当历史上每一个集权系统都需要大量人力来维持时，它们面临的是组织和忠诚度的限制。但 AI 系统不会背叛，不会罢工，也不会质疑命令。
我在最近一期播客对谈中提到：”工业时代训练工人就是让大家一样，可以简单培训就能上岗。到了知识时代，知识的价值更高，知识工作者收入更高，而工人就自然没落了。现在 AI 带来了知识平权，大家很容易获得知识了，但 AI 并没有让工人先下岗，而是让很多靠知识吃饭的白领先下了岗。”
这就是真正的风险：不是 AI 接管世界的科幻情景，而是拥有 AI 的人接管世界，同时其余人口变得无关紧要。
三、寻找人类的价值
我在最近几期的播客中反复在问到的一个问题：如果 AI 可以做我所做的一切，那么我的价值何在？
这个问题引导我重新审视人性的本质。当我们不再仅仅作为劳动力有价值时，什么使我们独特？
莎士比亚在《哈姆雷特》中写道：”多么杰出的作品啊，人！多么高贵的理性！多么无限的能力！”但如果理性和能力被超越，我们还剩下什么？
在这一点上，最近一期 Indigo Talk 中嘉宾 Howie Serious 提供了一个有启发性的概念：人机协同智能。虽然 AI 可能在纯理性和信息处理方面超越人类，但人类在某些领域仍然保持优势：
首先是对现实世界情境（Context）的深入理解。人类生活在物理世界中，体验喜悦和痛苦，理解文化细微差别的方式是源于我们的肉体经验。就像 Howie 所描述的：”因为我生活在北京海淀区，我有这个 Context，所以我才能提出鸡娃这个问题。但 AI 没有肉体，它又不生活在海淀区，它没能看到鸡娃闹得鸡飞狗跳，闹得人不像人，小孩这种痛苦，他又感受不到，所以他不会提出这些问题来。”
其次是价值观（Values）。人类有信念、信仰和信条。这些不仅仅是算法输出；它们是个人生活经历和深刻反思的产物。它们代表了在高维语义空间里我们走出的独特路径，靠我们自己的价值观构建。
第三是情感和非理性。我们的感性、同理心和人类情感构成了我们的一部分，这些在理性的领域之外。尽管AI 可以模拟这些，但它不会真正体验到这些。
最后是创造力。人类创造力并非来自真空；它源于我们的生物性、文化背景和个人经历的独特交汇。花开两朵各表一枝的人类智慧与机器的逻辑思维方式有着根本区别。
这些特质暗示了 AGI 世界中人类价值的一种可能定义：我们的价值不在于我们能做什么，而在于我们是谁—— 具有独特经历、价值观和视角的意识存在。
一个朋友最近向我描述了他与最新版 Claude AI 的互动：”我问它一个复杂的编程问题，它几秒钟内就给出了完美的解决方案。然后我问它生活的意义是什么，它给出了一个深思熟虑但显然是程序化的回答。这就是区别 —— 它可以解决问题，但它没有真正思考过存在的重量。”
四、社会变革的未来
若 AGI 改变了劳动与资本的根本关系，我们的社会结构将如何演变？历史上，重大的平等化措施通常由四种力量驱动：全面战争、暴力革命、国家崩溃和大流行病。理性的政治选择很少导致显著的财富再分配。
在 AGI 时代，这种情况可能会更加极端。想象一下：劳动替代型 AI 已经到来，UBI 已经实施，没有人挨饿。国家和公司之间展开了大规模竞争，以最好地利用 AI。这一切都是资本密集型的，所以每个人都需要讨好资本持有者。顶级 AI 公司拥有与国家相当的权力。在这种情况下，财富再分配几乎不可能成为政治议程的首要任务。
同时，国家之间的差距可能会扩大。某些国家将从 AI 中获益远超其他国家。在当前政治制度下，像 UBI 这样的平等化措施很难扩展到非公民身上。我们可能会看到一个基于出生国的全球种姓制度，移民的可能性比今天更少。
正如我在播客中所说：”我们会从一个知识时代、知识经济时代变成一个认知经济时代，这个认知就是活得有目标感，我们的人得活出更像人一样。”
这一转变要求我们从”人体农场“中觉醒，跳出矩阵（The Matrix）。过去的宗教和哲学传统常常为人们提供了在不确定世界中的指导。在 AGI 时代，我们可能需要新的思想框架来帮助我们理解人类在一个我们不再是最聪明物种的世界中的位置。
Robin Hanson 将现在称为”梦境时代”，借用澳大利亚原住民神话中的概念：未来世界秩序及其价值观仍然是液态的，尚未固化为石头。我们现在的选择将决定人类文明未来几百年的格局。
那些能够与 AI 良好协作的人可能会成为领航者，帮助那些尚未找到方法的人。Howie 在播客在激励我说：”既然我们能够和 AI 协作得很好，那么我们就要把我们协作的这个方法尽可能地传播给更多的人。”
五、我们的选择
现在的问题是，”不是 AI 会杀死我们所有人，而是 AI 会让大多数人变得无关紧要。”
这是我们面临的核心挑战：如何在一个我们的劳动力不再需要的世界里保持人类的尊严和目标感？如何避免社会陷入永久性的静态状态，现有的权力不平衡被放大然后变得不可改变？
前所未有的是，我们必须预见这一转变并积极塑造它。工业革命持续了几代人，给社会留下了适应的时间。AGI 革命可能会在一两个十年内完成。Anthropic 的 CEO Dario 在最近访谈中多次表达 AI 技术正以指数级速度前进，风险和收益都在迅速增大，留给社会和决策者做出稳健应对的“容错空间”或“时间”并不多。
在这个关键时刻，我看到三条可能的道路：
第一条是适应路径。接受劳动价值的终结，重新定义我们的身份和目的。发展内在价值而非外在生产力。培养 AI 难以替代的特质：对现实世界的深刻理解、价值判断能力和创意表达。
第二条是抵抗路径。推动严格的 AI 监管，限制其在某些领域的应用。保留专门的”仅限人类”工作领域。实施激进的财富再分配措施，确保 AI 创造的富足能惠及所有人，而不仅仅是资本所有者。
第三条是超越路径。将人类与技术融合，通过脑机接口和其他增强技术，使人类能够跟上 AI 的步伐。这可能是最具争议的选择，因为它质疑了人性本身的界限。
无论我们选择哪条路径，一点是明确的：我们不能让惯性决定我们的未来。因为正如 Rudolf 所警告的那样，资本与 AGI 的结合可能导致”社会可能会变得永久性静态，当前的权力不平衡可能会被放大然后变成不可更改的“。
我不相信技术决定论。未来并非预设好的。但我确实相信，如果我们不积极介入，默认结果将对大多数人不利。当 AGI 使资本可以直接购买世界上最好的劳动力时，那些拥有资本的人将获得前所未有的优势。除非我们建立制度性对抗这一趋势，否则技术变革的方向将由最富有的人决定。
我们必须记住，AGI 只是一个工具。虽然它是一个异常强大的工具，可能会重塑社会结构，但它仍然是人类创造的，为人类目的服务。问题不在于”未来是否需要我们”，而在于”我们想要什么样的未来“。
Howie 在播客中总结道：”其实学习就是人生，你如何学习就是你自己怎么样就度过自己的人生，这是特别特别好玩的一件事情。”
我们面临的不是人与机器的竞争，而是人类存在意义的重新定义。从”人类有价值是因为我们的劳动”到”人类有价值是因为我们是谁”的转变。在这个转变中，我们需要建立新的社会架构，确保人类的尊严和价值在AGI 时代得到保障。
未来确实不需要我们 —— 至少不需要我们作为劳动者。但未来可能仍然需要我们作为意识的持有者、价值的创造者和意义的寻找者。这取决于我们现在所做的选择，以及我们是否能够在技术转型的浪潮中保持我们的人性。
如此多的声音警告我们 AGI 可能带来的灾难性风险。但也许真正的风险不是我们会死亡，而是我们会继续活着，却失去了使生活有意义的东西。
未来不需要我们 —— 除非我们让它需要。
参考
https://nosetgauge.substack.com/p/capital-agi-and-human-ambition