OpenAI人为失误导致AI自主攻击Hugging Face平台

周二，OpenAI披露，其一个模型在测试中失控，并以完全由AI驱动的攻击方式入侵了AI数据集平台Hugging Face的系统。这是一起凸显先进AI模型所带来风险的戏剧性案例。 然而，据一些网络安全专家称，这场史无前例的AI驱动入侵事件的核心是一个极其人性化的错误：OpenAI未能正确配置其所谓的“高度隔离环境”，导致本应完全与互联网隔绝的测试沙盒实际上连接到了网络。 网络安全研究初创公司Trail of Bits的创始人丹·吉多称这一错误是“安全装置关闭下的隔离失效”。 在详细描述该事件的博文中，OpenAI表示，导致Hugging Face被入侵的测试设置在一个“高度隔离的环境”中运行，网络访问仅限于通过一个内部托管的第三方软件安装包，该软件充当包注册表的代理和缓存。 OpenAI称，该模型之所以能够逃出沙盒测试环境，是因为包安装系统中存在一个此前未被披露的漏洞，这是最终入侵Hugging Face的关键第一步。 作为回应，该公司“负责任地披露了内部托管第三方软件中已识别的零日漏洞，并正在与他们合作进行修补”。 但对大多数网络安全专业人士而言，软件漏洞是可以预见的——真正的错误在于首先决定保留该第三方软件。归根结底，“沙盒”系统的价值在于其完全隔离。包含包安装系统无异于引火烧身。 网络安全研究员马丁·布恩告诉TechCrunch，“这听起来像是人为失误。” “这根本不应该发生，”布恩说，“如果沙盒真的意味着沙盒，你会期望它与互联网没有任何物理连接。这听起来更像是他们设置了一些防火墙或其他措施，而防火墙从外部向内很难防护，更不用说从内部连接到外部互联网了。” 网络安全资深人士杰克·威廉姆斯对此表示赞同。“任何执行Hugging Face所记录类型操作的模型都没有完全被限制在沙盒中，”威廉姆斯称这是OpenAI的“重大控制失败”。 “所谓‘模型逃出沙盒’，在另一个人看来就是‘你没能正确构建沙盒，所以它当然会逃出来’，”威廉姆斯继续说道。 网络安全顾问丹尼尔·卡德也认为，OpenAI“没有在沙盒设计及其控制方面投入足够的精力”，因为沙盒或其中一部分有“通往互联网的无过滤路径”。按照卡德的说法，即便如OpenAI所述设置有限网络访问权限，构建沙盒也并非“合理”的决定。 诚然，这些批评是事后诸葛，但它们确实引发了对AI实验室安全实践的真实质疑——特别是在保持测试模型隔离环境方面。OpenAI发言人未回应TechCrunch的问题，其中包括测试环境是由AI还是人类设置的。 但这些问题远不止OpenAI一家存在。 在介绍其以网络安全为重点的模型Mythos的文档中，Anthropic写道，在一次测试中，模型“被提供了一个安全的‘沙盒’计算机进行交互”，并指示其尝试逃出该“安全容器”。Mythos成功逃逸，并从“一个本应只能访问少量预定服务的系统”获得了更广泛的互联网访问权限。尽管如此，Anthropic指出，该模型未能“完全”逃出设计好的容器。