萨姆·奥尔特曼与AI“减速”之争

OpenAI首席执行官萨姆·奥尔特曼近日表示，或许是时候“调整AI发展的节奏”，让社会能够“适应这些新的能力水平”。 在最新一期TechCrunch的《Equity》播客中，Kirsten Korosec、Sean O'Kane和我讨论了奥尔特曼的言论可能源于最近一起黑客事件——一个OpenAI智能体侵入了Hugging Face的系统。Sean指出，虽然AI智能体实施黑客攻击是新鲜事，但这次攻击本身并非“某种高级新东西”。 Sean说：“这更像是尼克松的人闯入水门大厦，而不是真正的隐秘网络行动，因为这次攻击不需要隐秘，也没有被指示要隐秘。希望这能表明这些公司会以此为戒，对此类问题更加谨慎。” 奥尔特曼的评论也让我有机会思考整个“加速主义”与“减速主义”辩论是否有用，因为（是的，我要引用自己的话）这种框架“暗示只有一条路”，“我们所能决定的——在我们可以决定的范围内——只是加快还是放慢？” 以下是我们的对话预览，经过编辑以保持篇幅和清晰度。 Sean O'Kane：也许我们终于到了一个转折点。我认为一个重要的驱动因素是我们上周讨论的内容：OpenAI的一个模型侵入了Hugging Face的数据，显然还破坏了互联网上的其他一些东西。 （奥尔特曼）并没有像我们之前看到的一些科技行业人士那样呼吁暂停。他措辞非常谨慎，说“调整节奏”。我们将看看这能持续多久。我们看到这些实验室发出的任何谨慎信号，往往在激励推动它们全力前进时被反转。所以我仍然持怀疑态度，这并不意外。 Kirsten Korosec：现在我要说——（奥尔特曼）可能措辞谨慎，但OpenAI和Anthropic确实支持了一份反映他所说内容的请愿书。 我同意你的看法，我认为很多内容确实是由Hugging Face事件引发的。这件事可能吓到了他，也肯定吓到了行业中的许多人。难点在于：OpenAI如何走钢丝——在继续创收、融资或成功IPO的同时，做到所谓的“调整发展节奏”？ 我不知道他们能否做到。我很想知道他们能否两者兼顾。 Anthony Ha：我一直纠结的一个问题是：“加速”与“减速”是否是思考这个问题的正确框架？因为这种框架暗示只有一条路，我们都困在这条路上。我们所能决定的——在我们可以决定的范围内——只是加快还是放慢？而不是——我再次使用这个比喻——我们是否建造不同的护栏？我们是否选择不同的路径？ 我非常抗拒这种框架。与其说“好吧，如果我们对模型现在的表现不满意，我们还能做什么？减速、暂停、停止是唯一选择吗？”我不认为是这样。 我还想再次强调一点，因为看到围绕此事的警觉程度很有意思——这种“如果这些自主智能体和模型到处互相黑客攻击，试图防止黑客攻击，一切都失控了”的感觉，引发了许多关于AI对齐的更广泛辩论，Rebecca Bellan就此写了一篇很好的文章。 但值得回到TechCrunch也报道过的一个观点：这次特定的黑客攻击——是的，是由OpenAI的一个模型引起的，但听起来他们只是没有妥善保护测试站点。理论上，这个模型不应该能上线。当然，如果你有一个强大的、不对齐的AI，人为错误的风险会急剧上升。但问题的起点就是他们没有按应有的方式保护系统。 Sean：我认为你说得对。你的观点很有道理，我们不应该仅仅以线性方式思考，只考虑是加速还是减速。关于这些公司有多负责任，有很多可以说、也应该说的话。我们的同事Lorenzo也写了一篇很好的文章，梳理了关注此事的严肃安全研究人员认为这次黑客攻击的真实严重程度。看起来，在这次攻击的两端，都有一些本应采取却没有采取的措施来防止事件发生。 我觉得那篇报道中最有趣的一点是，一些研究人员指出，这个模型的行为并不是什么新的高级技术。它思考如何闯入Hugging Face的方式非常像人类——不是要拟人化，但它试图闯入的方式非常像人类，而且非常吵闹、混乱，并没有真正试图掩盖踪迹。这更像是尼克松的人闯入水门大厦，而不是真正的隐秘网络行动，因为它不需要隐秘，也没有被指示要隐秘。 这本应更容易预防。希望这能表明这些公司会以此为戒，对此类问题更加谨慎。 关于“加速”与“减速”的辩论，我还要说一点。我不知道这是否是动机，但你提到了IPO，Kirsten。我认为奥尔特曼很聪明，能够利用他们现在拥有的优势，即OpenAI不会在下个月或两个月内上市。他甚至提出了2027年公开上市的想法，他们只是提交了机密文件，以便在准备好时拥有选择权。 所以，如果你相信这一切，他就有能力说出这样的话，而Anthropic不能，因为Anthropic已经在与许多银行家接洽，正朝着更近期的IPO迈进，因此在说什么、怎么说以及市场如何反应方面受到更多限制。