历史学家吉尔·莱波雷：硅谷误读科幻小说，削弱民主

在她即将出版的新书《人工国家的兴衰》中，吉尔·莱波雷警告称，科技公司正在日益取代民主政府的职能。她表示，这种转变标志着“以算法、企业和机器统治的形式，回归暴政与神秘化”。 在最新一期TechCrunch的Equity播客中，我与莱波雷——哈佛历史学家、《纽约客》特约撰稿人，最近凭借其关于美国宪法的历史著作获得普利策奖——探讨了她所说的“我们应该生活在人工国家或机器政府之下”这一观念的发展。 “我并非反对技术专家，”莱波雷坚称。她表示，“我的不满在于私营企业日益承担国家职能的方式。” 尽管莱波雷的著作审视了可追溯至数百年前的专家治国哲学，但她认为，硅谷许多“有魅力或不太有魅力的领袖”——尤其是埃隆·马斯克——似乎正在引领一个源自被误读的庸俗科幻小说和漫画书的未来。 “但马斯克有趣之处在于，他喜欢的东西实际上完全挫败并违背了他的所有政治信念，”她说。 我们的对话还涵盖了苹果著名的“1984”Macintosh广告、为何称Twitter为“数字市政厅”是“荒谬的”，以及当前对数据中心的抵制。以下是经过编辑和精简的对话亮点。 所以，您可能已经被问过很多次了，但您能解释一下“人工国家”是什么意思吗？ 所谓人工国家，我指的是一种正在取代美国和世界各地自由民主民族国家的国家形态。它既是一个真实的事物、一种构造，同时也是一种理念。 因此，在这本《人工国家的兴衰》中，我追溯了“我们应该生活在人工国家或机器政府之下”这一观念的兴起。我也追溯了这样一种看法：这必然失败，人工国家无法存续，而我正是通过科幻小说来追踪这一观念。 在某个时刻，您说人工国家的兴起标志着数百年民主和平等权利的终结，是“以算法、企业和机器统治的形式，回归暴政与神秘化”。您能进一步说明为什么如此尖锐地看待它吗？ 是的，我确实对它持相当负面的看法，但我认为重要的是要把人工国家与技术本身或技术模式区分开来。我并非反对技术专家。我的丈夫是计算机科学家。我对我们正处于其中的各种知识革命感到非常兴奋。 这不是我的不满，对吧？我的不满在于私营企业日益承担国家职能的方式。没有人同意这一点。这是一种逐渐的、很大程度上偶然的转变，影响着世界上许多民族国家的运作方式——它首先发生在美国。 我认为，将新技术引入政府运作的创新往往出于极其良好的意图；它们源于对效率、速度和低成本的兴趣。然后，我认为，直到最近大约20、25年，这些决定才变得有目的、深思熟虑，成为一种对民族国家角色的篡夺。 这不是我的猜测。你能听到许多非常知名的科技企业家谈论想要超越民族国家时代。[……] 90年代的许多未来主义者是自由意志主义者，他们特别有兴趣利用互联网的进步及随后的系列创新来消灭民族国家。 您一方面谈论技术本身，另一方面也谈论技术背后的哲学，以及企业日益扮演的角色。我很好奇，我们在多大程度上能将它们分开？我们是否真的可以拥有一种互联网和社交媒体版本，不一定导致我们似乎正冲向的那个未来？ 当然可以。我是历史学家，不是科技作家，不是科技记者，也不是计算机科学家。我是历史学家，主要研究政治史，但也是文学史家。因此，在这本书中，我非常感兴趣向读者揭示的是所有的“如果”、所有的替代方案、那些未被选择的道路以及原因。 当然，在1990年代，当互联网向公众开放时，关于它应该是什么样子有过热烈的讨论。而我们最终得到的1996年《电信法》——我想很多人会说那只是一个错误，而不是什么邪恶意图的行为，对吧？ 但它是特定政治时刻的产物，确实深受纽特·金里奇及其“美利坚契约”的影响，而且很难重新审视。我认为值得思考当时有哪些替代方案在博弈中。 个人电脑也是如此。因此，如果我们要为“更好的计算机技术将带来更好的民主”这一承诺寻找一个起点，我想你首先会想到的时刻是1984年1月，苹果为Macintosh发布时播出的那则超级碗广告，借用了乔治·奥威尔《1984》的主题。苹果当时大力宣扬大型主机电脑代表极权主义。他们试图拆解那些巨大的灰色IBM机器，在那则广告中把它们表现为极权国家。而轻盈、美丽、快速、讨人喜欢的个人Macintosh将成为摧毁那台机器的斧头，并开创一个“‘1984’不会成为‘1984’”的新时代。 那是巧妙的广告。我怀疑苹果公司是否真的有人相信个人电脑将成为个人解放的工具。我的意思是，它将使许多酷炫的事情成为可能。我记得当我拿到第一台Macintosh时——当然不是1984年，但它真的很酷、很有趣、很令人兴奋，我在上面做了很多事情。我从未想过它提升了我作为公民的能力，或者我在公民社会中更好运作的能力。它是一个很酷的工具。 但如果你把时间快进到2026年——沿途的站点包括2016年大选，当时Facebook News为了回应批评者，建立了一个“最高法院”。你会看到去年，Anthropic聘请了一位道德哲学家来撰写一部“宪法”。你会看到最近，萨姆·奥尔特曼在乔·罗根的节目中说（回应罗根的问题），“哦，AI总统将是个好主意。” 在某种程度上，这些都是愚蠢的例子。但你会看到这些公司，这些硅谷科技公司，尤其是它们有魅力或不太有魅力的领袖，正在采用民族国家的装饰和民主的职能。 他们不是拥有复杂政治哲学的人，但这就像1984年那则Macintosh广告的卡通版，只是它太把自己当回事了。而这些公司拥有如此巨大的权力。 话虽如此，这本书并非始于1984年。我只是认为那是我们现代时代的一个好例子，展示了一场有趣的广告活动如何变成萨姆·奥尔特曼等人那种妄想式的幻想。 您还谈到了所谓“Twitter革命”的承诺，即它将把民主带到任何地方。我不禁让这影响我（回应）萨姆·奥尔特曼或其他AI CEO现在说AI将带来所有这些令人难以置信的礼物——因此，如果你阻碍，就是在阻碍进步、阻碍历史的方式。 在多大程度上我们应该完全无视这些说法，还是有某些方式它可能会成真？ 我的意思是，Twitter实际上是个好例子，对吧？当它推出时，当杰克·多尔西创办它时，它并没有宣称“我们要拯救人类，我们要将人类文明从灭绝中拯救出来。”它有点像一种玩笑，我认为早期使用Twitter的人会说：“你知道吗？其实真的很有趣。”就像“我今天做了金枪鱼三明治。你午餐吃了什么？”Twitter作为一家公司并没有在舞台上宣称“我们来这里是为了拯救民主。” 而真正发生的事情是，政客、民选官员开始以增强政治权力的方式使用Twitter，以放大信息的方式，以接触更年轻受众的方式，以便与受众保持持续联系。政客和政治竞选活动确实有点说服了Twitter——至少据我观察，我对公司内部没有了解——但有点不情愿地，Twitter开始接受：“Twitter变得如此之大，人们频繁地发布政治内容，以至于Twitter几乎就像一个市政厅。” 等到2012年——在Twitter相当短暂的历史中已经过了很多年——他们发布了一本名为《Twitter政治与选举手册》的东西，这实际上是给政治候选人和民选官员的指南，教他们如何最有效地使用Twitter。然后他们开始宣传：“这是一个口袋里的市政厅，它正在改善我们的民主，因为我们正在恢复已经失效的新英格兰城镇会议。”这一切都很荒谬。 客观地说，没有什么比这更偏离事实的了。当时，五分之一的美国人拥有Twitter账户。大多数拥有Twitter账户的人从未用过，而在真正使用Twitter的用户中，不到10%的人发布了超过90%的政治推文。Twitter绝对无法代表选民。Twitter代表的是美国人中那些最极端、政治上最活跃、高度党派化的群体，他们极其热衷地关注政治。现在看看，我们可以说：“好吧，那真的只是一台扭曲机器。如果政客们用它来衡量选民，他们得到的会是糟糕的信息。” 再说一次，你可以说Twitter并未试图参与人工国家或削弱民主。Twitter是在试图做生意，获得更多用户，卖更多东西。但它产生了这些意外的后果，然后它逐渐适应并变得心安理得。 我想多谈谈这本书的结构。如您所说，它始于技术和思想史，后半部分是关于科幻小说。您能多谈谈这个结构是如何形成的，为什么您想这样处理？ 我变得非常感兴趣，一方面，科幻故事经常预测我后来所称的人工国家的到来，因此我确实想确定一种文学传统，我称之为“人工国家的寓言”，在这种传统中，机器变得越来越复杂，接管了越来越多的人类功能，包括政府功能，最终它们统治了人类，然后可能摧毁所有人类，因为它们不再真正需要他们了。 也许它们只是奴役人类，这取决于版本。我们是在《终结者》里，还是在《太空堡垒卡拉狄加》里？有不同的版本，这些故事由来已久，可以追溯到1850年代，以及人们对工业化后果进行思考的最早几十年。 我想很多人——我的学生，我的本科生肯定是这样——真的相信技术变革等于进步。不仅如此，唯一一种进步就是技术变革。这在人类历史上是新鲜事。这是19世纪的一种知识发明，部分原因是技术变革正在加速，而恰在此时查尔斯·达尔文正在构思并出版他的进化论。 因此，进化作为进步和技术变革作为进步之间存在一种奇怪的联姻，而从中消失的是所有其他更早的进步观念，这些观念主要涉及道德进步——比如，事情正在变得更好，因为人正在变得更好，或者事情正在变得更好，因为人更加自由。 我们还可以用其他很多方式来思考进步，但今天占主导地位的是19世纪的技术进步观念，即技术进步是唯一的进步，因此所有技术变革都是进步，而不是——客观地说，只有事情变好了才算进步。 但无论如何，19世纪技术进步观念与进化观念的汇合意味着，那些清醒思考的人会说：“好吧，如果机器不断变得更好、更快，能做更多事情——不仅是劳动，还可能说话、思考或移动——如果它们进化到在我们擅长的所有事情上都比我们强，怎么办？不仅仅是比我们更会织布，也不仅仅是像火车那样在时空中更快地移动？”随之而来的是一种难以置信的焦虑，一次又一次、一次又一次地以科幻小说的形式呈现出来。 我最喜欢的一个故事发表于1909年，作者是E·M·福斯特，大约在他写《看得见风景的房间》的时候。他写了这篇名为《机器停转》的故事，可以加上副标题“看不见风景的房间”。他想象不远的将来，每个人都生活在这种小隔间里。你永远看不到其他人，因为你所需的一切都会直接送到你的房间。就像DoorDash一样，食物会送达，你有一个屏幕，可以与他人交流。你所有的需求都得到满足。 人们最恐惧的是自然世界。没有人想看到太阳，这有点像《黑客帝国》，他们都崇拜那台组织他们生活、把所需一切送到他们小隔间里的机器。这个故事讲的是：“人类实质上已成为机器的奴隶，机器比人类更强、更有力、更有能力，而人类已经失去了原有的能力。”故事的结局是机器停转之时。 如果读者去看这个故事，会感觉它像是今天写的，只是如今它与其说是科幻小说，不如说是一个非常不快乐的YouTuber的日记。 您把这条线索与一些经营公司、或者说在运营我们政府某些方面的人联系起来，比如埃隆·马斯克。本质上，您认为他们是糟糕的科幻读者。他们读了很多警示故事，或者至少是矛盾的故事，却把它们当作未来的操作手册。 这是我作为一个科幻读者——比如热爱艾萨克·阿西莫夫的人——在思考的问题。我认为，当马斯克或奥尔特曼毫不含糊地说“是的，这个故事是我公司应该做什么的模板”时，这确实疯了。但科幻小说中确实有你们所说的那种技术官僚自由意志主义脉络，他们是在接续这个脉络。这不是他们凭空捏造的，对吧？ 虽然奇怪的是，那是海因莱因，不是阿西莫夫，也不是道格拉斯·亚当斯。 当然，科幻小说中有那条脉络。我不知道，我猜贝索斯是罗伯特·海因莱因的忠实粉丝。你可以说：“好吧，这挺合拍的。他们按字面意思读，但至少他们得到了任何理性之人都能在那部文学作品中找到的政治信息。” 但马斯克有趣之处在于，他喜欢的东西实际上完全挫败并违背了他所有的政治信念。 您还反复说，人工国家在目前的形式上是不完整的，注定失败。为什么它注定失败？ 这是我所讨论的所有科幻小说中都预见到的。 这不是阿西莫夫的故事，但那是阿西莫夫童年最喜欢的（劳伦斯·曼宁的《觉醒者》）之一，讲的是未来森林者击败浪费者的故事。[……] 未来人类之间的战争是在浪费者——他们认为你可以用完一切然后浪费掉——和森林者之间进行的，森林者真正相信的是——我们现在会称之为再造林和再野化。 这些故事中的张力通常就是这样。人工国家与自然世界之间的张力。要建立一个人工国家并在其中统治人类，你必须让他们远离自然世界，因为你在摧毁它。人工国家将摧毁自然世界，然而它需要自然世界的资源来运转。 所以，它注定失败，因为自然世界——一个可居住的星球，对人类可居住——不可能在人工国家设备的全面构建和依赖中存活下来。科幻小说就是这样运作的。 如您所说，您是历史学家，不是政治家或未来学家。但您认为人工国家的失败是什么样子？基本上就是解散所有这些公司、拆除数据中心吗？还是说有一种未来更偏向于把它控制住？ 我的意思是，我没有剧本，除了建议我们生活在这样一个民主国家：决策必须与被统治者协商，而这些决策并不受欢迎。 你可以在所有那些大大小小的数据中心危机中看到这一点，从一个城镇到另一个城镇，一个县到另一个县，一个州到另一个州——这部分是地方报纸衰落和新闻业遭到破坏的后果，而新闻业被破坏正是社交媒体的诸多后果之一，在扎克伯格这件事上，我认为这是一种某种程度上故意的后果。 你会看到很多人出现在这些镇民会议上，说：“我们甚至没有住房。我们没有医疗保健。我们没有工作。谁说要建这个数据中心？我需要了解更多。我想知道它的能源成本是多少。告诉我用水量。会有工作岗位吗？这些工作会持久吗？还是只会持续六个月？住在这个地区的白鹭会怎么样？”无论人们想知道什么。 越来越多地，你会看到人们——比如盐湖城那个例子，超过70%的人确实反对这个数据中心，而他们的代表却支持它。那不是代表人民。我认为这会带来政治代价，我们将在选举中开始看到这些代价。 也许我们不会看到。足够的民主运作必须保持完好，人们才能真正回应他们代表的渎职行为。 您对（人工国家）的部分思考始于十多年前您为《纽约客》写的那篇关于克莱顿·克里斯滕森的精彩文章，批评了他的“创新者困境”和“颠覆性创新”理论——这与TechCrunch关系密切，因为我们有一个名为Disrupt的大型会议。 十年过去了，您现在如何看待“颠覆性创新”这个想法？ 我坚持那篇文章中的一切。（当时莱波雷写道：“颠覆性创新是一个关于企业为何失败的理论。仅此而已。它不解释变化。它不是自然法则。”克里斯滕森回应说，莱波雷违反了“她指责我违反的所有学术规则”。） 去年夏天在为这本书工作时，我重读了那篇文章。我想说的是，作为一个试图平和的人，我认为历史学家没有参与这些思想确实是个问题。我写那篇关于颠覆性创新的文章的原因之一——那并不是我自己的想法，而是一个任务[……]——是因为我只是觉得：“颠覆性创新是一种历史理论。它是一种关于历史变迁的理论，而且它基于档案证据。”作为历史学家，我认为它毫无意义。他对证据的使用，按照任何对历史方法的恰当理解，都是完全不可接受的。它的论证没有与任何关于变化如何发生的有意义理解进行对话。 所以我去重新做了研究，结果根本站不住脚。我觉得我必须写下来。我希望在接下来的几年里有更多学术历史学家参与思考变化的本质——这些问题确实真正吸引着那些参与开发新技术的人。 人们真的很想思考：“这是什么？我在做什么？后果会是什么？我能从历史中学到什么？当汽车取代马时发生了什么？法律发生了什么？我们是如何得到驾驶执照的？我们是如何得到交通法的？在汽车出现之前我们没有交通规则。我们没有某些保险制度。我们没有驾驶员考试。这些东西是如何出现的？我们是如何为一项极其令人兴奋、在许多方面改善了人们生活、彻底改变了景观、彻底变革了侵权法的技术建立那些护栏的？也许我应该想想这些。” 我只是希望这些年来历史学家能更多与技术专家、与企业家对话。不仅仅是因为我们可以站在那里说：“你知道，我给你上一堂历史课”，而是我认为这里确实存在一场真正的对话。 所有这一切就是说，感谢您邀请我。