马克·扎克伯格的AI宣言正是人们不喜欢AI的原因

周一，马克·扎克伯格发布了一份长达6500字的关于个人AI的宣言，主要阐述了Meta AI正在构建的“个人超级智能”系统的可能性。这篇帖子中的想法并非全新。几个月前，这篇宣言的一个版本曾刊登在《华尔街日报》上，他也在Meta的财报电话会议上谈论过这些想法。但这可能是他分享过的最详细版本。 我看到有人将其描述为一篇反“末日论”的文章，但这种说法并不准确。它更多是在描述马克·扎克伯格个人为何对AI改变社会的方式感到兴奋。然而，即使扎克伯格试图描绘超级智能带来的美好未来图景，他也不断提醒我们它可能出错的各种方式。 我也对AI感到兴奋——这正是我持续写作的原因——但许多公众认为AI令人毛骨悚然且不悦。因此，值得厘清这里究竟发生了什么，以及为什么扎克伯格这类文章对行业并无益处。 社交媒体在科技行业仍然是一个敏感话题，我们在这里没有足够篇幅逐一审视人们对Facebook的每一项抱怨。可以说，Facebook作为产品和扎克伯格作为个人，在美国公众中都不受欢迎。最近一项调查发现，64%的美国人认为社交媒体损害了民主，类似比例的人认为应该对其加强监管，这些数字在党派之间分布均衡。就在这个周末，一家法院因该公司对儿童造成伤害而对其处以5.67亿美元罚款。形势确实不妙。 我提这些并非暗示扎克伯格应该羞愧地退隐山林——但社交媒体的负面后果是我们如今看到人们对AI的社会影响如此焦虑的核心原因之一。无论公平与否，公众不信任科技高管能确保这类新技术对社会产生积极影响。这篇宣言没有承认这一点并试图赢回信任，反而一再展示了信任最初是如何丧失的。 文章很大一部分内容致力于关于智能的模糊概括——这与扎克伯格和多西过去关于言论自由所给出的模糊概括非常相似。例如： “随着每个人都获得更强大的工具，每个人塑造未来的能力会更强，而不是更弱……利益相冲突的个人和机构自然而然地相互制衡，从而导向积极的结果。构建积极AI未来最好、最现实的路径，就是向所有人提供超级智能。” 我想是吧？我能想到一些利益冲突导致糟糕结果的例子，但先把这个放在一边。更奇怪的是，这被当作一个认真的哲学结论来呈现，而不是Meta正在推向市场的名为“个人智能”的具体产品。如果你本就倾向于不信任这个人，你可能会担心他们写所有这些是为了说服自己不会发生坏事。 当扎克伯格谈到具体例子时，我的这种感觉更加强烈，其中许多例子与AI工具实际使用方式的现实惊人地脱节。例如，扎克伯格对AI在教育中的应用是这样看的： “每个人都将在每个学科拥有一位拥有博士学位的个性化导师和教练，并且拥有无限的耐心来帮助你学习任何想学的东西。学生将在需要的领域获得额外帮助，目前这种帮助只有父母能付得起费用的人才能享有。成年人将拥有一个超级智能学习助手，它确切地知道如何教你新的工作技能、新语言、新爱好或其他任何你感兴趣的内容。” 当然，扎克伯格描述的产品早已存在：这就是ChatGPT、Claude和Gemini这类消费级聊天机器人。这些工具在你确实想学习某个主题时确实有帮助，但它们在教育中的主要使用方式却是逃避学习，因为你的个性化导师可以帮你做作业、写指定论文——而且由于缺乏健全的水印系统，教师无法确定哪些论文是由AI生成的。 这是一个风险相当低的AI危害例子，但它是当下正在发生的真实情况。有时你设计一项技术是为了做好事，却会产生意想不到的后果，使事情变得更糟。而世界上最有权力的人之一却拒绝承认这一点，这让人有理由感到紧张！ 扎克伯格还举例说明AI将如何让法律体系变得更好： “作为思想实验，想象只有一个人拥有超级智能律师。他将在法庭上拥有不公平的优势——即使他的理由并不成立。那将导致更糟糕的社会。但现在想象每个人都拥有超级智能律师。在这种情况下，正义的执行将比今天公平得多、高效得多，因为今天的诉讼常常存在技能和资源的不平衡。” 这又是一个充满争议的例子。诚然，获得法律AI可能会带来更公正的社会，但也可能给本已存在的官僚式地狱增加更多复杂性。或者它可能释放出新一波滥诉者，用等同于垃圾邮件的法律文书堵塞系统。很难对这一切保持平静，而扎克伯格不担心这一点让我更担心。 在其他地方，甚至对Meta现有商业实践的描述也开始呈现出一种古怪的抽象特征。例如，扎克伯格这样描述Meta对免费增值模式的承诺： “每个人都将以免费或可负担的价格使用这些工具……我们将提供数十亿人可以使用的免费版本。对于希望付费使用更多算力的人，将有一个动态拍卖机制，既能保证每个人以尽可能低的价格获得他们正在使用的智能和算力，又能确保算力被用于人们集体认为最有价值的事情。这将确保超级智能的益处得到广泛分配。” 从大体上看，我同意他在这里说的一切。关于可及性是个问题，扎克伯格是对的；免费增值模式比要求所有人预先为算力付费能提供更多获取渠道，这也是对的。动态算力现货市场已经存在，所以他描述的并非完全脱离常规。但每个消费级AI产品都将最终用户与其使用的算力现货价格隔离开来，这是有原因的。动态定价是一种糟糕的用户体验，尤其是当它被部署在一个你实际依赖的工作工具上时。 再说一次，我必须假设扎克伯格知道这一点，而且他实际上并不打算通过动态拍卖来设定代币价格。但读完这篇文章后，我对此的把握反而比之前更小了。 谈论这些事情还有更好的方式。尽管山姆·奥特曼和达里奥·阿莫迪也有种种缺陷，但他们在与公众直接沟通时做得相当不错。他们做的正是扎克伯格在此回避的：承认AI的危险性，强调自己的预防措施，并努力让听众相信他们值得信任。 这种沟通能起到的作用是有限的。有时（尤其是最近），防护措施失效，整个事业的内在危险就变得清晰可见。但如果没有某种信任构建，这个行业可能无法总是承受这些失败。