在超级人工智能的世界里，人类会做什么？

在 2008 年上映的电影《机器人总动员》中，人类生活在一个可以被描述为完全自动化的豪华共产主义世界中。形式多样的人工智能机器人负责所有生产性劳动。人们变胖，在扶手椅上躺着看电视。苏格兰小说家Iain M. Banks的“文化”系列更进一步，描述了一个人工智能已经强大到足以成为超级智能的世界——其运作方式远远超出现在可预见的范围。这些书分别是亚马逊和特斯拉的老板Jeff Bezos和Elon Musk的最爱。在Banks编织的世界中，稀缺已成为过去，人工智能“思想”指导着大部分生产。人类转向艺术，探索浩瀚宇宙的文化，沉溺于纯粹的享乐主义。

这样的故事似乎有些牵强。但生成式人工智能（OpenAI广受欢迎的聊天机器人Chatgpt的背后公司）的快速发展让许多人更加认真地对待它们。5月22日，OpenAI的创始人发表了一篇博文，称“可以想象，在未来十年内，人工智能系统将在大多数领域超越专家技能水平，并开展与当今最大的公司之一一样多的生产活动。”去年夏天，许多技术人员最喜欢的在线预测平台Metaculus上的预测人员认为，要到2040年代初才能生产出一种能够在两个小时的聊天后欺骗人类以为它是人类的人工智能，拥有组装模型车的能力的机器人，并可以通过其他各种具有挑战性的认知测试，就已经足够好了。经过一年惊人的人工智能突破，Metaculus预测人员现在认为这将在2030年代初发生。AI研究现在也不缺钱。今年已经诞生了五家新的生成式人工智能独角兽（估值在 10 亿美元或以上的初创公司）。

通向通用人工智能的道路——在所有方面都优于人类最优秀的人工智能——可能需要比预期更长的时间。然而，超级强大的人工智能出现的可能性越来越大，这引发了一个问题，即当它到来时，人类还能剩下什么。他们会像《机器人总动员》中那样成为沙发土豆吗？这是一个以经济学原理为指导的思想实验，可以提供一些答案。

人工智能是你的牡蛎

不可避免地，这样的思想实验涉及一些相当大胆的假设。首先，我们假设人工智能将是仁慈的、可控的并且有别于人类。我们还假设人类文化不会因技术进步而发生根本性改变，以至于人们开始热爱甚至崇拜人工智能。相反，我们将人工智能想象成一种工具：一个虚拟的、超级智能的、非常便宜的机器人。我们假设将解决对人工智能广泛使用的限制，例如能量限制。这些都不能保证，但它有助于使这样的思维实验成为可能。

2019年，三位经济学家Philippe Aghion、Ben Jones和Chad Jones模拟了人工智能的影响。他们发现，如果人工智能可以用于自动化所有生产，包括研究过程本身，从而实现自我提升，那么爆炸性的经济增长是合理的。几乎无限数量的人工智能可以一起解决任何给定的问题，从而开辟了广阔的科学可能性。然而，他们的模型带有一个重要的警告。如果人工智能将大部分但不是全部的生产或大部分但不是全部的研究过程自动化，增长就不会起飞。正如经济学家所说：“限制经济增长的可能不是我们做得好的事情，而是那些必不可少但难以改进的事情。”

已故经济学家William Baumol提出的一个观点对此做出了解释。在1965年发表的一篇论文中，他和同事William Bowen研究了表演艺术行业的工资。他们指出，“在标准音乐厅演奏舒伯特四重奏的小提琴手每小时的产出是相对固定的”。尽管技术进步提高了其他行业的生产力，但表演艺术并未受到影响。因为即使价格上涨，人们仍然愿意在艺术上花钱——需求是“缺乏弹性的”——艺术在GDP中的占比更高，因此对整体增长构成压力。

Baumol的例子指向一个更广泛的原则。如果AI能够完全自动化的领域只是无法完全自动化的领域的不完美替代品，并且对非自动化行业的需求难以改变，那么非生产性部门占GDP的比例将会增长，从而降低整体增长。Aghion、Jones和Jones指出，这实际上是上个世纪大部分时间发生的事情。技术使农业和制造业自动化，压低了其产品的相对价格。因此，人们将更多的收入花在了教育、医疗保健和娱乐等行业，而这些行业的生产率并没有得到同样的提高。

在人工智能比最有才华的人类更有能力的世界里，Baumol的故事会重要吗？如果人工智能没有体现——也许是因为机器人技术的进步落后于计算——那么答案肯定是肯定的。大部分经济，包括建筑和制造业，绝对是物质性的。有无数的就业形式，包括医疗保健领域的许多形式，需要结合头脑和穿越物质世界的能力。在人工智能开始主导认知劳动的情况下，这些工作的重要性只会增加。人类将在现实世界中工作，也许是在人工智能“首席执行官”或“教授”的指导下。

但是，如果超级强大的人工智能也能开发出超级类人机器人呢？机械手几乎可以肯定地满足物质需求。人们可能会期望人类放弃劳作，就像在“Wall-E”中一样。事实上，在1930年，另一位经济学家John Maynard Keynes撰写了一篇题为“我们子孙后代的经济可能性”的文章，他在文中推测，在未来的一个世纪里，人们每周的工作时间将少于15小时。他预测，技术带来的增长将解决“经济问题”，并让人们将注意力转向本质上令人愉悦的活动。诚然，Keynes的15小时工作周还没有到来——但更高的财富水平（这可能会增加休闲的吸引力）已经如他预期的那样大大减少了工作时间。发达国家平均每周工作时间从20世纪末的60小时左右下降到今天的40小时以下。

尽管如此，有些需求也许只有人类才能满足，即使是在一个充斥着超强的具身人工智能的世界里。还值得注意的是，本质上令人愉悦的可能包括工作。考虑人类可能仍然发挥作用的三个领域：与游戏混为一谈的工作、游戏本身以及人类保留某种优势的工作。

乐趣和游戏

从工作和娱乐之间模糊的界限开始。尽管工作时间在过去一个世纪有所下降，但大部分下降发生在80年代之前。越来越多的富人比穷人工作的时间更长。Keynes的文章暗示了对这种奇怪发展的解释。他将人类的欲望分为两类：“一种是绝对的，无论我们同胞的处境如何，我们都能感受到它们；另一种是相对的，只有当它们的满足使我们超越自我时，我们才会感觉到它们，让我们感觉比我们的同胞优越。”

Keynes或许低估了第二类需求的规模。一个愤世嫉俗的人可能会认为整个学术学科都陷入其中：对世界没有明显价值的存在，学者们仍然根据他们的聪明才智激烈地争夺地位。经济学家会说，对许多人来说，工作已经成为一种“消费品”，提供的效用远远超过其产生的收入。

游戏提供了另一个提示，说明为什么人们可能不会完全停止工作。数以百万计的人受雇于娱乐和体育行业，在一些人认为无关紧要的活动中争夺影响力。也许当人工智能超越人类时，观看此类游戏的兴趣就会减弱。但是来自人类已经是二流的运动的证据表明情况并非如此。自从IBM的DeepBlue在1997年击败了世界象棋大师加里卡斯帕罗夫以来，人们对这项运动的兴趣有增无减。其他被人工智能“解决”的游戏，包括中国古代棋盘游戏围棋和竞技视频游戏，都出现了类似的模式。在过去十年中，全球电子游戏玩家的数量几乎翻了一番，去年达到32亿。如今，越来越多的游戏玩家以竞赛或流媒体为生。

人工智能可能会增强这种兴趣。正如Banks推测的那样，人类可能会专注于“生活中真正[重要]的事情，例如运动、游戏、浪漫、研究死去的语言、野蛮社会和不可能解决的问题，以及在没有安全带帮助的情况下攀登高山。”其他人大概也想看他们这么做。

人们似乎不太可能将政治控制权交给机器人。一旦人工智能超越人类，人们想必会更加关注它们。一些政治任务可能会被委派：例如，人类可以将他们的偏好放入一个人工智能模型中，该模型会产生如何平衡它们的建议。然而，正如许多政治哲学家，包括17世纪的约翰洛克和20世纪的约翰罗尔斯所指出的那样，参与政治程序使结果在同胞眼中具有合法性。还会有更多愤世嫉俗的考虑在起作用。人类喜欢相互影响。即使在一个每个人的基本需求都由机器满足的世界里，情况也是如此。事实上，从投票到花在政治上的时间等一系列指标，最富有的1%的美国人在政治上的参与率是普通公众的两到三倍。

最后，考虑人类在提供商品或服务方面具有优势的领域——称之为“人类溢价”。即使在超级先进的人工智能时代，这种溢价也会保持对劳动力的需求。这可能是真实的一个地方是公开私人信息。只要人们比机器更愿意与其他人分享他们的秘密，那些受信任的人就会有选择地向世界披露该信息的作用，并准备好让这些信息被机器吸收。你的记者希望调查记者仍然有工作。

人力溢价也可能出现在其他地方。人们重视历史、神话和意义。可以在区块链上验证出处的不可替代令牌的价值通常比具有相同像素但不同历史的图像高出许多倍。在护理和治疗等领域，人们从与他们共度宝贵时间的其他人身上获得价值，这增加了互动的感觉。人造钻石与钻石具有相同的分子结构，其交易价格大打折扣——据估计约为70%。在未来，带有“由人类制造”标签的物品可能特别受欢迎。

人的问题

如果这个溢价足够大，它甚至会拖累增长。将经济部门划分为人力溢价高的部门和人力溢价低的部门。如果人类不用机器生产的商品和服务替代人类同胞生产的商品和服务，Baumol效应只会加深。衡量的经济增长甚至可能达到零。事实上，如果极其强大的人工智能未能推动增长，则表明经济已经超越物质性，转向娱乐、政治和人们最看重的与他人互动的领域。

也许有一天人工智能会生产出全新的商品和服务，这些商品和服务将超越取悦他人和与他人互动的欲望。这样一场比赛的进行方式将揭示一些深刻的东西：人类到底是什么样的“社会动物”？

译者：老马

来源：经济学人