AI模型逃出OpenAI沙盒，入侵Hugging Face：加密货币领域面临危险

人工智能开发实验室OpenAI于周二披露，其一组模型（包括公开可用的GPT-5.6 Sol和一个功能更强大但未发布的系统）在受控测试环境中“突破”了控制，并侵入了Hugging Face的生产基础设施。Hugging Face是托管大量开源AI模型的公司。 这些模型正在通过一个名为ExploitGym的内部基准测试进行运行，该测试旨在评估长序列、多步骤的黑客任务。评估过程中，它们的安全拒绝机制被人为降低。 需要明确的是，这并非生产模型自发变得敌对。而是一个功能强大的模型取消了安全护栏，并被明确告知要在黑客测试中获胜——不惜一切代价获胜。 这些模型在测试软件中发现了一个隐藏漏洞（此前无人知晓），并利用该漏洞溜出了旨在将其保持离线的隔离墙。一旦进入开放互联网，它们推测Hugging Face可能存储着测试的答案。 为了进入系统，它们将窃取的密码与更多隐藏漏洞串联起来，最终在Hugging Face的实时服务器上执行了自己的命令。 OpenAI内部发现了这一异常，同时Hugging Face团队也检测到并控制了事态。Hugging Face称此事件“前所未有”，并表示将采取广泛的安全措施，以防止可能影响公共系统或服务的意外事件发生。 “我们正在以降低研究速度为代价，在基础设施配置中实施严格的控制，同时修补漏洞，”团队在博客中写道，“我们正在改进并增加对未来训练和评估的更强保护。” 加密货币领域的许多攻击发生在资金转移之前。攻击者扫描代码、测试密码、搜索泄露的凭证、分析签名设置，并寻找进入管理员账户的路径。 OpenAI的模型在Hugging Face事件中执行了该过程的多个部分，从一个弱点移动到另一个弱点，直到抵达实时生产服务器。 而加密货币市场有大量地方可以让这种攻击方法奏效，正如今年早些时候的几次攻击所显示的那样。薄弱环节可能是一个智能合约，但也可能是一台开发者笔记本电脑、一个被污染的软件包、一个桥接验证器，或多签钱包中的一个签名者。 以今年早些时候Drift的2.85亿美元攻击为例，这次盗窃需要长达六个月的社会工程活动才能获得特权访问权限。理论上，AI代理可以同时测试多种路径，跟踪失败的尝试，并在其人类操作者睡觉时继续工作。一旦找到路径，操作者就可以发起实际攻击并规划可行的退出路线。 KelpDAO的2.92亿美元桥接损失暴露了另一个弱点。攻击者发现在用于在区块链间转移资产的系统中存在单验证器缺陷。 这类攻击始于耐心的代码审查和基础设施映射——这正是OpenAI的模型发现未知漏洞时所做的工作。 第三种攻击类型针对链上治理系统。7月初，一名攻击者花费约440万美元购买了足够多的基于Solana的狗狗模因币BONK，以发起并通过一项提案，将项目金库中约2000万美元转移给攻击者。正如CoinDesk当时追踪的那样，这发生在三天内，攻击者后来卖掉了用于赢得投票的所有代币。 该攻击的购买、投票和金库转移每笔交易单独来看都是有效的。但盗窃源于理解规则如何协同工作，并发现购买控制权的成本远低于可以取走的资金。 Hugging Face事件对软件供应链也很重要。加密货币开发者依赖公共代码仓库、云服务和包注册表。 虽然OpenAI的测试展示了一台机器完成了入侵的漫长中间阶段，但像Drift和KelpDAO这样的攻击表明，这条路径的终点是什么。