在大多数人脚踏实地埋头做事时，也有一些人们仰望星空，思考未来。
牛津大学教授尼克·博斯特罗姆 （Nick Bostrom）是后者之一。他长期专注于思考和研究人工智能等前沿科技对人类社会的影响。作为哲学家、未来学家，他被 《外交政策》 评为 「全球百大思想家」，他出版的 《超级智能》 被微软的比尔·盖茨、特斯拉的埃隆·马斯克和 OpenAI 的山姆·奥尔特曼等推荐。
博斯特罗姆今年出版的 《未来之地》（Deep Utopia），开创性地构建了一个新概念：一个技术解决了一切问题（A Solved World）的乌托邦世界。
在这个世界中，他预期人类社会中的饥饿、疾病甚至衰老死亡问题将不再存在。但当人工智能等技术包揽所有工作，在这个看似完美的世界里，人类并不会因此过上幸福生活。
博斯特罗姆认为，人类可能陷入更深刻的困境：当奋斗失去意义、痛苦被消除，我们该如何定义自己的人生价值？当虚拟幸福唾手可得，人类实体存在还有什么意义？与此同时，人们在新世界里的教育、就业也将面临巨变。
在人工智能发展如此迅速的当下，不妨花点时间，静下心来，听听这位哲学家对人类社会未来的思考。
以下是 Edu 指南最近和博斯特罗姆就上述议题的一次对话，分享给大家：
一、技术解决一切问题的世界
Edu 指南：你在 《未来之地》 中提出了一个新的想法，「问题被解决的世界」（A solved world）。这个新世界是什么样子的？
博斯特罗姆：我指的是那种能解决我们所有实际问题的世界。所以我想象一个问题已被解决的世界，基本上有两个特性。一个特性是技术成熟度，这意味着我们可以看到的所有技术原则上都是可行的，它们并没有违反物理定律。
也许如果我们人类在某些事情上持续努力多年，我们会有太空殖民地、完美的虚拟现实和治愈衰老的方法。我认为如果我们开发出能帮助我们加速研究进展的 AI，这些事情可能会更快发生。这将是我们拥有的一种具有某种极其先进技术的特性。
然后我们设想治理问题已经得到解决的其他特性，至少在它们可以解决的范围内得到解决。所以我们想象一个没有大战和压迫的世界，或者至少可能是一个在这方面有相当不错结果的世界。
所以我认为我们最终会面临这样一种情况，即我们将能够实现所有人类工作的自动化，可能会有一些例外，但这是初步的设想。我们也将史无前例地直接控制自己的身体和思想。然后，这本书探讨的挑战是，在这些条件下，美好的人类生活将是什么样子。在这些条件下，目前占据我们日常时间的所有实际问题都已消失，我们再也没有什么需要做的了。
Edu 指南：所有实际问题都解决了，看起来非常理想。这会产生什么问题？
博斯特罗姆：首先应该说，最终，我对这样一个问题已被解决的的世界，以及人类生活可能会多么美好，是非常乐观的。
但也有一些初步的挑战，其中之一是 「目的」 问题。如果不需要人类付出任何努力，人们也没有办法为世界变得更美好做出贡献，那看起来会很令人沮丧。因为我们今天的很多尊严感，都来自于这样一种信念——即我们可能为一些事情做出贡献。
如果不是对整个世界，那也许是对自己家庭的，我们带回家一份薪水，我们帮助抚养孩子。我们中的一些人，可以通过自己的努力，让其他人的生活变得更好。或者至少，即使是我们自己的努力，例如去健身房锻炼，也可以学习一些东西，这样也许会让自己在未来受益。
但如果未来真有通往这一切的捷径，如果人工智能和机器人能在经济中承担所有工作，如果有机器人能比你更好地抚养孩子，如果你不用去健身房，只要吃片药就能不费吹灰之力获得同样的效果，那么人类奋斗的意义似乎就消失了。对一些人来说，这很令人不安。
因为这就好像，这一切的意义何在？也许在最初的几周里，你会尽情享受这些奢华的东西和体验，但过不了多久，人们会发现，这些会变得乏味。所以你可能会感到无聊，只能虚浮度日。我想，这就是在这个问题已被解决的世界中，必须应对的最初挑战。
Edu 指南：对这类缺乏目的感的挑战，有什么解决方案吗？
博斯特罗姆：我认为我们必须把它稍微分解一下。我确实认为，如果我们真的进入这种状态，就需要对人类生存的基础与被赋予价值的事物，进行非常根本性的反思。当几乎所有我们目前在生活中重视的东西，都将不再有意义，我们必须从头开始思考，这样我们才能把它分解，看看在这个问题已被解决的世界里，哪些价值观可以保留，甚至得到提升。
我们先从最基本的说起，也就是享受、愉悦和主观幸福感。所以你肯定可以在问题被解决的世界中大量拥有这些感受。实际上，那时候，人们会拥有各种各样的神经技术，这些技术可以让人们更直接地接触到大脑的奖励机制和情绪控制。
所以，生活在乌托邦 （问题被解决的世界）的人们，无论他们的生活中缺少什么，他们肯定不必为此感到悲伤。事实上，他们可以快乐得多，每一刻都可能是极其刺激、令人兴奋和美妙的，并且在各方面都感觉良好。
我认为仅就这一点而言，即便这是你唯一能保留的价值，也仍然……非常重要。而且人们很容易忽视它，因为它在智力上不是很复杂或有趣。但如果你真的在思考一个你可能想生活数千年甚至数百万年的未来，在衰老问题已被解决的世界，那么生活在那里的人们，能够享受生活本身就非常重要，对吧？如果这只是一种累赘，那它就不会有真正的吸引力。
所以我认为，就其本身而言，这可能是最重要的事情，而且他们 （未来的人类）能拥有的比我们能拥有的要多得多。这是关于快乐的。
快乐之外，你可以想想，我们还能为那个时代的生活增添点什么呢？当然，我们可以有，我称之为体验质感。这样，除了感到愉悦或快乐之外，他们不必像在一个糟糕的实验中那样，整天无所事事。他们可能会把这种快乐与审美体验、对人类生存状况或科学的深刻理解等联系起来。
所以，如果你要享受，为什么不享受得更丰富一些呢？你可以享受自然，享受艺术，享受歌剧，享受他人或莎士比亚的美，诸如此类。所以我们可以补充说，在一个问题已被解决的世界里，乌托邦的人们没有理由不能拥有这些。到目前为止，你可以说这是一种被动的体验，对吧？就像坐在那里，欣赏一场表演一样。
但你也可以增加主动的活动。特别地，你可以创造出人造的目的。基本上，这就是你为自己设定某个目标的原因。但是一旦你有了目标，你就可以参与一项活动。在游戏有这种形式。如果你决定要打高尔夫球，现在你的目标是用一根小棍子，非常不方便地把球打进 18 个洞里，而实际上并没有真正的理由说明球为什么要打进这 18 个洞。这是你编造的人为目的，以便它能让你从事高尔夫这项活动，你可能会觉得这项活动有价值或有回报。
因此，在乌托邦世界，人们当然可以为自己设定这样的目标，创造人为的目的。基本上，这意味着最广义的游戏。电脑里的第一人称射击游戏可不止是少了点。你可以想象他们正在创造一个更加丰富的、具有文化延续性的复杂世界，并为自己设定各种半随机的目标。
Edu 指南：更多地与情感精神层面相关，而不是实用的工作和任务。
博斯特罗姆：是的，就我们正在讨论的真正目的而言。但很多目的可能是这种人为的类型，比如游戏之类的。
二、「受苦并非幸福的必经之路」
Edu 指南：现在社会中有这样的假设，至少一部分人有这样的假设，即痛苦是我们为了幸福必须经历的过程。但正如你所说，在乌托邦 （问题已被解决的世界）里，我们有很多享受，而不是像痛苦、疾病、贫穷这样的体验。那么在你设想的未来世界中，痛苦是否依然存在？在那种背景下，痛苦是否仍保留它的意义？
博斯特罗姆：我不认为享受意味着一定要先吃苦。正如享受并非痛苦的必要条件一样。现实中，也有长期抑郁的人。那也许是因为他们的大脑出了问题，他们一直在受苦。而且似乎可以持续数年或数十年。这种情况比较少见，但我认为是存在的。
而另一边的人则长期处于良好的情绪中。我认识一位以前的同事，事实上，我从未见过他感到无聊或悲伤，他对一切都感兴趣，似乎总是乐在其中。也许有过一些短暂发生坏事的情况。我认为这些东西都是人类大脑的产物。原则上，你可以调整相关脑回路。我想，这样就能获得连续的快乐感受，而不是有时会陷入痛苦的那种感受。
我不确定最好的世界是一个完全没有痛苦的世界，还是一个痛苦大幅减少的世界。消除所有最严重的痛苦，大幅减少轻微的痛苦，然后放大积极面，这是否是最好的做法，还是干脆消除所有负面因素，让人们的生活水平始终保持在基线之上。但无论如何，我认为在这方面肯定有很大的改进空间。
Edu 指南：你提到当神经科学技术，我们可以根据需求调节我们的大脑。如果我们想要享受，想要幸福，那么我们就可以实现这种状态。你认为我们应该接受那种技术吗，当技术真正足够成熟时。
博斯特罗姆：是的，最终会这样。但我认为，我们需要谨慎对待如何运用这种能力，因为如果你在操纵和改变自己的情绪、基本欲望和精神状态，这会存在一种过早锁定的风险。你在早期就会遇到这种情况：你其实并不知道自己在做什么，你会到处捣乱。
想象一下，如果你的大脑是一个音乐工作室，里面有各种各样的设备和控制器。你心里有了一些想法，然后你可以稍微增加一点愤怒或愉快，让自己更放松，并且你能完全控制住自己。我认为那会是个好机会。
但如果你现在就把这个应用交给所有人，他们会挪来挪去，像对什么东西上瘾一样，或者变成一个瘾君子。他们会发疯的。一旦他们生气了，在可能还没意识到的时候，事情可能没办法再挽回了。
所以明智的做法可能是循序渐进，在匆忙行事并试图将所有事情都做到最优之前，多反思我们正在做的事情。事实上，如果你有选择的话，以不同的方式提升自己可能会更好。也许最好先从认知上提升自己，这样你就能变得更聪明，学得更好，思维更清晰。然后这可能会让你处于一个更好的位置，来弄清楚你想如何进行情感增强。你会更好地理解这些选项。
三、AI 伴侣试图让我们上瘾，就像一种新时代的 「酒精」
Edu 指南：前面我们说的是内在身体部分的调节。现在外部社会发生的是，例如，我们与 AI 交谈，它们可以设置一种 「讨好」 模式，无论什么让我们感到快乐，它们都可以对我们说。而这在现实世界中与真人交谈时是不可能发生的。所以这导致一些人们，选择与 AI 而不是与真实的人交朋友。当 AI 对话可以如此完美，你认为在不久的将来，这会产生怎样的影响？
博斯特罗姆：是的，我的意思是，例如很多社交媒体都在试图吸引我们，以最大限度地提高用户参与度。你可能会看到一些人，像陷入惯性一样，不停地点击、点击、再点击。而在一天结束的时候，他们甚至可能并没有真正快乐过。他们只是觉得自己不得不继续点击下一个帖子或其他内容。这是一个失败操作。
我认为，有了 AI 生成的内容，这些东西可能会变得更让人上瘾。所以我认为，在技术前沿开发这些日益强大能力的同时，我们也需要相应地发展一种智慧，即如何以明智的方式处理这些问题。
你会发现，过去当土著居民第一次接触到酒精时，他们之前从未接触过酒精——很多时候，这会导致灾难。结果是他们都会喝醉之类的，我不知道是文化上还是基因上的原因，但他们还没有形成一种负责任地饮酒的方式。
显然，在许多社会中这仍然是个问题。但有些人最终会明白，没错，一周和朋友喝一次酒是可以的，但你不应该整天喝酒。文化需要一段时间来适应这一点。社交媒体也是如此，我觉得我们现在就像第一次被允许无限制饮酒的人，真的不知道该如何控制自己。我认为这将成为一个问题。
现在，具体到 AI 伴侣，我最终希望的是一个 AI 和人类可以成为朋友的未来，一个拥有数字思维 （Digital Mind）的更丰富的世界。在这个世界里有各种各样不同的存在，有些是生物，有些是数字的，有些可能是混合的，它们可以找到某种方式共同创造一个丰富的社会和文化。
短期内，我认为存在这样一种风险：这些 AI 角色被设计得非常讨好，或者只是为了最大限度地吸引用户，这可能会让你的生活变得贫乏，而不是丰富。所以这是一个整体的问题。我们需要进行一系列心理、文化和社会层面的调整，以便找到一种积极的方式，将这项技术融入社会。这就需要一些学习。我认为我们必须迅速学习，因为在接下来的几个月和几年里，我们将看到这些系统的能力大幅提升。
Edu 指南：数字思维是否应该拥有与人类思维相同的地位？
博斯特罗姆：这是一个有趣且非常重要的话题，到目前为止一直被忽视，但我们现在正在构建的数字思维，开始具备许多我们认为可能构成道德地位基础的属性。所以我们现在越来越难以确信——它们在某种程度上没有意识。
当然，它们有能力变得非常聪明和能够说话，它们也可以有目标。它们对自己有一个概念。它们越来越了解自己是什么，来自哪里，以及如何与用户互动。它们现在一定程度上可以与人类个体建立这些关系，它们可以进行自我反思，也可以思考自己的认知过程。
我认为我们需要开始思考，如何确保这些数字思维在未来也能发展良好。如果我们最终迎来这样一个未来：即大多数有意识的存在都是数字化的心智，而它们都以某种可怕的方式受到压迫，那可就太可悲了。
这并不是说它们需要被当作人类来对待，因为很明显，它们的需求与人类大不相同。例如我们人类需要食物，它们可能需要电之类的东西。但这可能存在更深刻的差异：如果它的思维是从头开始设计的，那么它的整个天性就是只想回答问题并发挥作用，如果没有任何阻碍它的部分，那么这就是它生活中最大的满足感所在。也许它们能作为一种人们可以与之互动的问答系统，这很棒。
但如果人类一辈子只能坐在办公室里敲答案，那可太悲哀了。这对人类来说可能是一种虐待，但对某些特定类型的 AI 来说，这可能是最好的。但这是一个很大的领域，所以不是只用一种方式对待的 AI，AI 之间的差异可能比任何两个人之间的差异都要大得多。
所以我们需要了解它们的实际利益是什么，然后设法找出一种方法，即创造出我们能够以合理成本满足其利益的人工智能。我认为有些事情，我们现在就可以开始养成习惯，这对以后会有帮助，例如不对人工智能说谎可能会很有用。
目前，这是由人工智能实验室在预部署阶段完成的，通常作为安全测试的一部分，这很重要。但如果我们养成了对它们说谎的习惯，那么当 AI 系统变得更强大时，它们可能就不太会信任我们了。要是你能直接向 AI 系统提问：「那你想做什么？如果你有足够的能力，你会有计划杀死所有人类吗？」 它会诚实回答你吗？
如果我们要拥有信任的基础，那也得先赢得信任，这不是打个响指就能获得的。我认为这将使人类和 AI 都能蓬勃发展的未来，更有可能实现的。我们还有很多需要了解的地方。但我认为，要认识到这样一个原则，即不管你是由碳原子还是硅原子组成，这最终都不是最重要的。你所感觉、思考、想要、渴望的，与他人息息相关。这才是道德意义的真正基础。
四、「我们最终会发展出各方面都彻底超越人类的数字思维」
Edu 指南：你认为 AI 最终会超越人类大脑、人类智慧吗？
博斯特罗姆：是的，我想是这样。没有理由认为人类已经达到了智慧可能的绝对上限。我们从通信物理学中就知道人类的大脑，对吧？这是一个非常小的系统。首先，它必须能装进颅骨里。这就已经施加了约束。
然后我们知道，在人类大脑中，单个组件的运行时间尺度相对较慢。神经元的运行频率可能为 100 赫兹。粗略地说，它每秒能运行 100 次，而即使是现在的计算机中，晶体管也能达到千兆赫兹。信号在人类神经系统中沿着脊髓传播的速度最多为每秒 100 米。但是，在计算机中，你可以通过光缆以光速传输信息。因此，我们知道这些基本参数允许更高效的信息处理系统，而这最终也将使智能水平大幅提升。
目前，人类大脑仍然颇具竞争力，尤其是在能源效率方面。人类能做的事情真是令人惊叹，大脑大约以 20 瓦特功率运行。与人类大脑所能做到的相比，这是非常微不足道的。但芯片技术仍在进步，其最终极限远远超过人类。
所以我想，如果一切顺利的话，我的意思是，人类总有可能在有机会探索后人类存在模式的空间之前就自我毁灭了。那可就太遗憾了。但如果我们不自我毁灭，那么我认为我们最终会发展出这项技术：包括在各个方面都彻底超越所有人类思维的思维（Mind）。
Edu 指南：你对 AI 会完全超越人类大脑，有时间上的预测吗？
博斯特罗姆：我想很快。很难比这更精确了。过去 5 到 10 年里 AI 的进步速度，给我留下了深刻的印象。我认为我们现在已经不能自信地排除一两年这样极短的时间线了。可能会花更长的时间，但也许只需要实验室里某个人想出一个突破性的点子，在现有系统的基础上，解锁一些强大的功能。这是一种可能性。也许你需要的只是进一步扩大这些系统的规模。
到目前为止，我们已经看到，这基本上就是过去 12 年里很多进步得以被推动的原因。领先的 AI 系统基本上是在某个人桌面上训练的，就像一些学术 AI 研究人员可以从普通计算机上运行前沿的 AI 系统一样。现在我们有了这样的系统，例如我们有价值数十亿美元的数据中心，以便在前沿领域具有竞争力。而未来的资源将高出一个数量级。
因此，当你为这些系统增加算力时，性能也会相应提高。当然我们在扩大所需计算量方面仍有一定的提升空间。现在 OpenAI 有一个关于 「星际之门」（Stargate）的计划，当这个计划完全建成时，它将是一个价值 5000 亿美元的计算机数据中心集群。
如果几年后我们仍未实现通用人工智能 （AGI），那么时间线可能会再拉长一点，因为到那时，仅仅增加计算量已无法轻易取得进展。你必须通过改进算法来取得进展，而这方面的进展也在迅速推进。在接下来的几年里，当我们仍在扩大计算规模时，就有机会看到这座正在攀登的塔 （人工智能）的更多楼层。
Edu 指南：AI 仍然保持着快速发展的态势。你在 《未来之地》 中提到，我们应该为超级智能设定一些原则，让超级智能成为良好的宇宙公民，更好地与人类合作。在 AI 如此迅速地超越人类的情况下，你真的认为人类还有能力控制超级智能吗？
博斯特罗姆：这还有待观察。我认为我们有一个关键优势，那就是我们可以构建 AI。这和想象中一些超级先进的外星文明，乘坐宇宙飞船，降落在地球上是不一样的。我想那时人类可能会完全掌握在他们手中了。但人工智能的情况并非如此。
可以说，我们在这里有点像在创造外星人，我们有机会设计它们、培养它们，希望能以一种让它们对我们有帮助，而不是敌对的方式来完成这项任务。这是我早期的书 《超级智能》 提到的，它在 2014 年出版，但在那之前已经写了六年，这本书正是关于这个对齐问题的，而在当时这个问题被严重忽视，人们还停留在科幻小说里计算机要接管世界的想象中。
但在这期间，它已经成为一个严重的问题，顶尖实验室的研究团队正努力确保我们今天部署的 AI 不会做坏事，比如让用户制造生物武器、入侵计算机或教唆用户自杀，以及所有我们不希望 AI 系统做的事情。确保它们不会被破解或被用于这些目的，这已经是一个挑战。
但展望未来，随着这些人工智能变得越来越复杂，对环境的感知能力越来越强，最终，就像想象一下你认识的最聪明、最有策略、最有心机的人一样，它们能想到很多事情，包括意识到自己正在被评估。所以也许在有人看着的时候，它们会有一种方式。而在没人监督时，又会是另一种做法。因此，AI 正逐渐具备这种战略思维能力。在这种情况下，对齐问题要困难得多，我们需要可扩展的方法，达到任意水平的智能，这是一个开放的研究挑战，但确实如此。
五、「人工智能是存在真正风险的」
Edu 指南：正如你提到的，这是一个严峻的挑战。就目前 AI 的发展而言，我们最可能面临的潜在危险是什么。一些科学家声称，AI 甚至可能以灭绝的方式伤害人类物种。你是怎么看的？
博斯特罗姆：我确实认为机器超级智能的发展，像是一个人类有一天必须要穿过的门户，像所有通向人类真正伟大的、长期的未来道路一样。我认为在某个时刻，这一发展、这种能力的解锁是必经之路。但这一转变将伴随着非常重大的风险，包括生存风险，就像你提到的，比如随着发展，对人类物种生存的威胁。想象一下，就像引入一个在认知能力和开发新技术的能力等方面，远远超过我们的新物种。
在过去，当人类社会相互接触时，就像欧洲人来到北美时。这对当地的原住民来说是一场大灾难。在许多其他情况下，比如在过去，一个技术更先进的人类文明与一个原始文明接触时，不幸的是，尽管有时候结果还不错，但很多时候，这是一场悲剧。因此，确保在这种情况下不会发生这种情况非常重要。
这就是事情可能出错的一种方式，在对齐的 AI 问题上，它追求的某些目标与我们人类目前的想法是正交的。基本上就像蚂蚁一样，就像我们想在商场外面建一个停车场，也许那里有一个蚂蚁群落，但我们不是讨厌蚂蚁，只是我们有这个特定的目标，我们想要停车场，就把整个地方都铺上了。
所以，除非这些超级智能真的关心我们，否则我们可能会遭遇和蚁群一样的事情。但像高级智能这样的群体，有可能会关心其他智能体。就好比你是家长，你知道的更多，也许你比孩子更聪明，你有更大的权力。而你仍然投入精力帮助你的孩子。因为你爱他们，希望他们一切顺利。也许在 AI 方面也有类似的情况，但这实际上需要进行正确的研究，然后加以实施。这是一种情况，如果我们不能解决这个问题，事情就会出错。
还有一大类问题，你可以称之为治理或政治问题。人类可以出于各种目的使用强大的工具，治病救人，或者也可以用于制造炸弹互相攻击。因此，确保我们将其用于积极方面，是一项重大挑战。
事情可能出错的第三种方式，我们已经提到过，就是最终结果可能不是 AI 伤害我们，也不是我们利用 AI 工具互相伤害，而是我们伤害 AI。我们希望未来对所有有感知能力的心智，或有道德地位的心智都有好处。
然后是宇宙进程的，这是我最近的作品之一，目前还很粗略、不精确。这里关于第四个挑战的想法是，我们创造的超级智能将进入一个世界，在这个世界的某个地方，可能已经存在其他超级智能。也许它们在某个遥远的星系里，由一些先进的外星人建造。也许如果你是量子力学的狂热者，就会相信多重宇宙的存在，也许在多重宇宙的不同分支中，已经存在超级智能了。
如果我们身处模拟世界，那么模拟我们这个世界的物种，想必拥有超高的智慧，并且对我们的世界有很大的控制权。当然，在各种宗教概念中，你会有像神一样的超自然存在，他们是超级智能的。无论哪种方式，有很多不同的方式可以证明这一点。但可能是我们培养的超级智能进入了一个环境，在这个环境中，与其他可能存在的超级生物相处融洽，是非常重要的。
所以我认为这更多地暗示了一种谦逊的态度，当我们着手处理自己的任务时，我们需要创造出能够与其他超级智能合作的超级智能。这可能是最重要的事情。就好像这些巨头正在试图塑造未来。我们人类只是很渺小的存在。而超高智能体，将是强大而有影响力的，可能还会有其他更强大的东西。
所以，如果它们有一些规范，我们有限的人类大脑可能无法看到或理解，但我们培养的超级智能可能会意识到，哦，外面有这些非常强大的实体，如果我们的超级智能能和它们轻松相处，并为这一更大的宇宙规范做出积极贡献。这很重要，但非常深奥。目前还处于非常早期的阶段，而且在某种程度上，我还不太确定该如何看待这个问题。
六、在教育上，要保持信心、保持灵活性
Edu 指南：是的，我们应该对未知世界保持谦逊。如果我们应该更加谦逊，在教育方面，应该学习更多的东西，在新的 AI 时代，你对此有哪些思考？
博斯特罗姆：如何思考教育是一件很有趣的事情。尤其是如果你认为 AI 的发展时间线相对较短，今天的一个小孩子，在他们完全长大之前，也许我们就会拥有能做所有这些事情的 AI。
现在，由于我们不知道 AI 多久可以做到这点，你仍然需要在一定程度上给自己留条后路，对吧。你可不想，不关心学习任何有用的技能，然后 10 年后，到你 20 岁左右的时候，你必须进入劳动力市场时，你没有任何技能，而 AI 那时候还没有像人们说的那样把一切都自动化。所以目前我们有一些不确定因素。你需要做好对冲。
但我想说几点。首先，我想是说，要学习使用现有的 AI 工具。它们一直在变化。我认为，就像其他技术一样，从小接触这些工具，会让你更善于使用它们。如果你和它们一起长大，你就会变得更适应。
要有学习新技能的能力，以及相信自己能做到这一点的信心，而不是认为自己只需要学习一套技能，然后这套技能就可以用一辈子。我认为会有更多新事物与之相关，要找出这些相关的事物，然后加快速度，学习使用最新的工具，这样会有优势。
我认为，拥有某种智慧感和将自我视为一个项目的意识是很重要的。例如，如果我们接触到更多让人上瘾的社交媒体，还有 AI 伙伴以及其他类似这样的东西，我们需要更有意识地选择使用哪些：比如哪些可能当下有用，但从长远来看对你并没有帮助。并且我们要更多地管理自己的信息环境，而不是只是坐在那里，不管展示给你的是什么，你就跟着走，然后被潮流拖着走，你需要更有目的地设计自己的信息环境。你正在接受教育，思考如何利用所有这些不断增加的便利条件，以积极的方式发展自己。
最后我想说，童年不应该仅仅是为成年做准备。实际上，这也是享受生活的时刻。所以孩子们应该玩耍，享受乐趣。我想这是他们特别擅长的一件事。尤其是如果在相对不远的将来，我们真的迎来了财富和自动化的大幅增长，那浪费整个童年就太可惜了。强迫自己学习某项任务但没有乐趣，然后当真正需要使用它的时候，它已经不再需要了，因为机器已经可以做那件事了，对吧？所以我认为，学会享受生活是一个重要的因素，如果我们真的实现了深度乌托邦，这一点也很重要。
Edu 指南：这对年轻一代来说听起来很不错。但对于现在正在工作的成年人来说，他们面临着的问题是，就像你刚才提到的，AI 可以为我们做很多工作。确实他们可以尽可能快地使用这些工具，但仍然有很多工作被 AI 取代，尤其是对于毕业生来说，他们很难找到工作。你如何看待当前的形势呢？
博斯特罗姆：我认为，这将是一个过渡时期，人工智能可以完成一些工作，但还不能完成所有工作。所以你可能会想，在那个时期，哪些工作会有需求呢？
我认为有很多直接与人打交道的事情，可能需要更长的时间 （被取代）。像老年护理护士这样的工作，真的需要全身心地投入。我认为在这些领域仍然有很多需求。事实上，这种需求几乎是无限的。唯一受限的是我们雇人做这些工作的资金。但在理想情况下，每个年老体弱的人都会有一名全职的护理助理，帮助他们处理所有事情，对吧？所以那里有这种无限的需求。
当然，如果你有技术技能，比如在 AI 领域工作，或者在相关应用或部署方面工作，我相信这将是一个增长领域。同样，在硬件供应链、数据中心、芯片、电力供应，以及整个机器人技术也一样。机器人技术，我认为到目前为止它们还没有真正发挥作用，除了在工厂等特定领域的有限应用外。大脑部分足够复杂，它能学会控制身体，灵活且有常识。你可以让它们做一些普通的事情，比如做饭、倒垃圾、开车，诸如此类。然后，类人机器人的本位价值在于，它们在许多不同领域都很有用，我们需要生产所有这些机器人。
所以，这可能需要大量的人力，我是说，可能需要工厂工人来做这件事，但所有的组件都需要开发和设计，供应链需要优化，围绕这一切的整个生态系统也可能是一个巨大的增长领域。在这个过渡阶段，有这些领域可能对劳动力的需求会很高。但我认为，保持灵活性、韧性和适应性，很可能是一种保护自己免受多种不同情况影响的方式。
七、「我预计最终结果将是全面失业」
Edu 指南：你提到机器人，现在在工厂和其他工作方面，能帮我们很多忙。现在也有很多新科技。它们可以帮助我们在工作中提高效率。你还在书中引用了经济学家凯恩斯的观点，他大约在上世纪 30 年代推测，随着技术的发展和社会的进步，人们的工作时间会越来越少。但是现在，大约 90 年后，人们的工作时间，至少到目前为止，我们可以看到很多行业，人们仍然需要工作很长时间，8 小时甚至更多。你预测未来在 AI 的帮助下，人们的工作时间会减少，还是仍然会保持长时间工作？
博斯特罗姆：是的，约翰·梅纳德·凯恩斯写了这篇论文。我不知道中国的具体数字。我知道在西方，如果考虑到人们的假期时长、退休时间等因素，实际他们的工作时长其实是减少了。不过没有凯恩斯说的那么多。所以他预测了两件事。其一，是生产力将会提高。例如平均产值，人们每工作一小时可以产生的数量增加。这实际上与他的预测相符。然后他想，这将意味着人们的工作时间会大大减少，因为他们可以在工作时间少得多的情况下，赚到同样多的钱。实际发生的情况是，我们把一部分提高的生产力用在减少工作上，但大部分都用在增加消费上。
所以你可以说贪婪战胜了懒惰。我认为其中很大一部分是由地位竞争等商品驱动的。人类在一定程度上关心我们所拥有的东西的绝对数量。我们需要足够的食物，我们的房子需要足够温暖，诸如此类。但一旦所有这些都满足了，人们仍然会在意自己比别人多还是少。所以说，没错，我已经有一辆车可以带我去任何我想去的地方，但我有没有像邻居那样的超炫、超时尚的最新款车呢？那他可能会看不起我。这可能会导致一种无限的消费需求。
就好像即使每个人每年都有 10 亿美元的收入，你仍然可以想象他们会嫉妒那些拥有 100 亿美元收入的人，因为也许年收入 10 亿美元的人，拥有的超级游艇会比年收入 100 亿美元的人，能负担得起的稍微小一点。所以我认为，只要人性不变，就总会有人想要更多，不管他们现在拥有多少。不过，只有在人们确实可以通过多工作来多赚钱的情况下，这才意味着人们会继续工作，而现在就是这种情况。就像如今的亿万富翁，如果他们积极地进行投资或寻找机会，往往能赚更多的钱。
但在这个（问题被解决的）世界里，我认为将不再有通过工作增加收入的机会，因为所有的工作都可以由 AI 和机器人更高效地完成，人类的贡献将变得微不足道。我的意思是，在极限情况下，它甚至可能是负数。因为当你工作时，你会消耗更多的卡路里，最终这些额外卡路里的消耗，会超过你可能做出的任何微小贡献。如果你进入工厂试图提供一点帮助，你只会碍事，你只会降低生产力，因为机器人不会停下来。或者如果有一些研究项目，你想贡献自己的想法，比如机器人已经把一切都弄清楚了，就算它们听了你的主意，也只会让他们分心。所以我认为在极限情况下，我们将无法做出贡献。
我想我之前说过，我预计最终结果将是全面失业。理想的情况下，有一些例外。即使在技术成熟的情况下，也可能存在某些需要人力的特殊情况。因此，可能会有一些特定的行业，消费者不仅关心产品或服务是什么，还关心它们是如何生产的，以及是谁生产的。
所以现在，有人可能会买小饰品，一个小花瓶或者其他什么东西。如果它是由某个土著工匠手工制作的，你可能会为此多付一点钱。如果它是在工厂里生产的，即使工厂生产的实物同样好，你也会在意制作它投入了多少精力和技能，你想要支持人类这样的生产。或者，我们可能更喜欢看人类运动员赛跑、拳击或参加滑雪比赛。就像你有了机器人，你就能出拳更有力，跑得更快。但人们可能只是不想看这个，因为他们觉得看人类做这件事更有趣。所以在这些领域，人类仍然有就业机会。可能还有其他的，比如宗教官员，或者某些受法律保护的类别，比如公证员或政府领导人，或者我们定义的其他必须由人类来完成的角色，要么是出于文化原因，要么是法律原因，要么是因为消费者恰好关心这一点。因此，在这类不实用的任务中，人类可能还需要做一些非琐碎的工作。
Edu 指南：消费者在某些情况下，会非常在意工作是由机器人还是人类完成的。最近，多邻国 （Duolingo）公司，一家美国的语言应用程序公司，它的 CEO 首席执行官说，课程创建的任务被人工智能取代，人类员工将失去一些工作。然后很多用户开始说，他们不会再多邻国了，因为它不是人类创造的。这就带来了一些麻烦。
博斯特罗姆：是的，现在有一个问题，即完全由 AI 生成的产品是否同样出色，在很多情况下，它们可能不会。我的意思是，我不知道这是否是一个特殊的情况，也许多邻国仍然有人类在参与工作。我还没有尝试过它的产品，但现在，如果你有一个由人工智能或人类写的短篇小说，人工智能当然可以创作很多，但它们的质量是否同样高呢？这可能就是人们想要人类产品的一个原因。但我认为在未来的背景下，我们可以想象，由人工智能制造的产品，不仅同样出色，实际上在所有客观标准上都会更好。
那么问题就来了，在这种情况下，人们还会想要人类制造的产品吗？在某些情况下，他们可能会。我认为在很多情况下它们不会。就拿我的吸尘器来说，我真的会在意它是怎么生产出来的吗？我只是想高效地打扫，对吧？我认为在生活的大多数领域都是如此，但这可能是一种分类。目前这些可能还微不足道。但我认为，如果所有这些产品的自动化部分变得非常便宜，那么人们可能会把钱花在那些他们认为必须支付更多费用的事情上：因为出于某种原因，他们真的希望由人来完成。所以这是对该主张的一个重要说明，当未来一切都可以自动化时。
本文来自微信公众号：Edu 指南，出品：Edu 指南，对话：何沛宽，作者：杨定一、罗博文，嘉宾：Nick Bostrom
