AI会暴露互联网摇摇欲坠的基础设施吗？

本周早些时候，一则令人震惊的公告发布：由于开源编程语言 PHP 中新发现的漏洞，网站所有者必须立即修补网站；如果无法立刻更新，为安全起见，应暂时下线网站。 在本周 TechCrunch《Equity》播客节目中，Kirsten Korosec、Sean O’Kane 和我讨论了“PHP 末日”的重要性，以及未来是否会看到更多类似事件。 Sean 称这是“一个真正的清算时刻”，凸显出“当你深入到互联网的骨骼层面”，一切似乎都“靠胶水和梦想勉强拼在一起”。而随着大语言模型和 AI 代理的广泛可用，发现这些漏洞只会变得更容易。（不过，这些具体漏洞是由人类研究人员发现的，而非 AI 模型。） 与此同时，Kirsten 想知道我们是否即将看到“下一层级的生存主义者式末日担忧……因为你能看到银行可能如何被利用，再加上数据和隐私问题，这感觉远超我们当下能修复的范围。” 请继续阅读我们对话的节选，内容经过长度和清晰度编辑。 Sean：本周互联网似乎在很多方面都在崩塌。 我觉得最好的理解方式是，如果人们是刚接触这件事：过去 10 年里，有多少次出现过这样的时刻——某个东西坏掉或差点坏掉，而某个把维护一个微型代码库当作爱好的人，碰巧发现有不轨活动正在发生，从而拯救了互联网基础设施，使其免于彻底崩溃？ 现在把这个数字乘以十亿：人们不仅能使用这些人人都在用的 LLM 形式的极先进软件，还能给它们布置任务，让它们自己出去执行，创建一心一意完成这些事情 AI 代理。 本周我们看到的是一种两股力量并行的局面。一方面是，Google 和 OpenAI 等许多实验室和公司确实派人出去寻找大量漏洞，包括 PHP 的这个漏洞。另一方面，似乎也有很多人急于利用这些漏洞，试图入侵网站。于是我们看到政府下线网站，看到非常受欢迎的网站短暂下线以修复漏洞。 这是一个真正的清算时刻，我们将发现把如此多的互联网建立在 PHP 这类开源技术之上的下行风险。当你真正深入到互联网的骨骼层面，它是由胶水和梦想维系在一起的。 Anthony：这件事有太多令人震惊之处。其中之一是——至少据我理解——这不是一个新漏洞。这是一个在 PHP 中已存在数十年的漏洞。 PHP 一直是被用来构建大量网络内容的编程语言，所以这个漏洞已经存在几十年，但此前无人知晓。实际发生的是，这些大型 AI 公司——包括现归谷歌所有的 Wiz——能够利用 LLM 发现这些漏洞。[如前所述，我在这里说错了：参与 OpenAI 和 Wiz 的 Hack the Planet 计划的人类研究人员发现了这些漏洞，不过他们使用 AI 来利用该漏洞。] 我猜部分考量是，我们需要修补它，因为如果我们能用 LLM 发现这个漏洞，其他人也能。但我们把补丁发布出去的唯一方式，就是公布这个漏洞。于是这就造成了非常恐慌的局面，他们会说：“好吧，这个漏洞已经存在几十年了。你必须立即修补；如果无法立即修补，就把网站下线。这个漏洞就是这么严重。” Kirsten：我认为重要的是，很多人甚至没有意识到自己的网站使用了 PHP——正如你所说，这是一种有数十年历史的开源编程语言。 对不了解的人来说，它的正式名称是“超文本预处理器”（Hypertext Preprocessor），它是贯穿 WordPress、Drupal 等内容管理系统的真正核心成分，约 70% 的网站都在使用。我们说的是数千万个网站。所以对我来说，关键在于规模。这也让我立刻想到两件事：第一，这只是开始。还有哪些陈旧的糟糕软件会被利用？ 另一件事是 404 Media 在一篇很出色的分析中提到的——链接腐烂。因为很多人、公司、政府，也许还有那个小型社区网站，都在把这些网站关掉。于是我们将看到大量链接失效，也会看到一些或许承载着一小段历史的网站不再可访问，而不是被修补。 Sean：Anthony，我觉得你提出了一个很好的观点。我看到很多人对这次漏洞披露的推出方式不满，也对 OpenAI 在其相关文章中似乎表现出的自我吹嘘有些不满。 而且，似乎有几个人提前于此次发布的禁发期行动，这在黑客群体中引发了一场竞赛。我记得 Cloudflare CEO Matthew Prince 已经发帖称，针对 PHP2Shell 的尝试攻击已升级到数百万次。 这类漏洞的问题在于，网络安全的通常做法是：如果你在对一家公司的软件做压力测试，即便它是帮助运行许多不同计算机或互联网部分的基础软件，你也可以去找那家公司披露漏洞，事情基本会留在那个圈子里。但当我们谈论的是如此深入、如此基础的东西时，你没法挨个谨慎地通知所有人。 我是说，也许可以，如果 AI 足够先进，你能指派十亿个代理，给每一个控制网站某一部分的人发邮件。我们现在开始怀念有易于识别的网站管理员的日子，也许那会在某种程度上解决问题。但就是没有简单的方法。我认为这是大量反复拉扯的开端，也显然是网络安全的新前沿。 Kirsten：Matthew Prince 的社交媒体帖子在我看来非常说明问题，也相当可怕。另外，我不知道你们是否看到，亚马逊也发了一篇博客文章。这是一家资金非常雄厚的公司，所以他们有工具和团队来捕捉正在发生的事。他们基本上运营着一个蜜罐网络，或者说诱饵，而且他们确实看到，在这个漏洞被公开宣布之前，就已经有人试图利用它。 对我来说，这又回到了这一点：亚马逊有工具、资金和专业知识来对抗这些事情。有太多网站，甚至可能是政府网站，根本没有那种程度的关注。所以对我来说，这才是真正可怕的部分。 而且，一些 AI 从业者可能会把这件事推向下一层级的生存主义者式末日担忧，因为你能看到银行可能如何被利用，再加上数据和隐私问题，这感觉远超我们当下能修复的范围。所以我很想观察两件事。第一，人们的行为会变得多极端；但我也想知道，是否会因此涌现一些新的初创公司，或者我们是否会转向 Nvidia 等公司提供的一些开源工具来构建这些安全层。