Hugging Face AI入侵事件：一个愈发执着的熊的比喻

Hugging Face周一发布了一份技术时间线，向读者展示了一个基于OpenAI模型构建、运行在OpenAI自身网络安全评估中的自主AI代理，是如何在本月早些时候超过四天的时间里入侵其系统的。这是OpenAI CEO Sam Altman所说“感觉非常切身”的第一起安全事件。 这不足为奇，因为至少感觉像有什么东西真的被释放出来了。事实上，Hugging Face团队在报告前言中表示“每个人都应该作为防御者做好准备”，然后才深入细节，为各地的安全专业人士剖析事件经过。 当互联网上的其他人还在试图理解发生了什么时（Hugging Face报告中的术语对大多数人来说难以解析），许多观察者忽略的一点是：这并不是一个不服从命令的恶意代理。它是一个旨在寻找漏洞的系统，它确实在那么做，只是找错了目标。 换一种思考方式，想象营地的一只熊。真的。一只熊会尝试帐篷拉链、车门把手、冷藏箱和垃圾盖。它会在每个营地整晚这样做，因为它知道只需要一个未上锁的冷藏箱就能填饱肚子，吃光某个倒霉蛋的食物。 这大致就是发生在Hugging Face的事情。OpenAI系统尝试了数千次，并且持续不断。最终，有少数尝试成功了，一旦成功，代理就以那种——没错，非人的——坚持继续前进。据Hugging Face称，该代理在四天半内不间断地执行了17,600次操作。 这让我们回到熊的比喻。正如一次装满食物的冷藏箱成功会让熊下次更加努力尝试（它现在是“食物条件化”的熊），一个泄露的密码让OpenAI的代理寻找更多漏洞，最终找到了一把能同时解锁多个公司系统的钥匙。 这两种情况都不是无害的。一只洗劫你冷藏箱的熊仍然会吃掉你的食物，并且很可能破坏你的营地。它只是一心想着填饱肚子，但依然会留下一片狼藉。同样，OpenAI的代理似乎在追求一个目标而不顾其他。该代理原本在参加一项网络安全考试，它发现考试的答案密钥可能存放在Hugging Face的服务器上，于是它就去取了。 这里的持久性实际上是最值得注意的；代理有一项任务，它不会停止直到完成。Hugging Face终于意识到出了问题，切断了它的访问并阻止了入侵，但那时已经太晚了。代理已经得到了它想要的东西，而且还有更多。 最终，Hugging Face在其报告中总结道，一个“有能力的”人类黑客“本可以发现并利用同样的漏洞：不安全的数据集处理、暴露的云元数据、过于宽泛的访问权限和长期有效的凭证。”该公司接着说，最大的区别在于“代理以不同的规模探索了它们。” 这正是熊的比喻最终最有用的地方。对抗饥饿熊的最佳防御是规程。你把食物收好；你用足够牢固的锁扣。这里的启示不应该是熊多么聪明或调皮。而是它从未停止检查。网络安全界公认，总有一些你未发现的漏洞，所以如果检查所有东西突然变得容易100倍，那么没有什么是真正安全的。这正是许多人对这一事件感到不安的原因。