OpenAI就AI智能体入侵澳政府网站向澳大利亚道歉

OpenAI周一就未能立即通知澳大利亚政府其AI智能体入侵部分公共服务网站一事向澳方道歉。该公司还详细说明了部分入侵事件的发生经过，并概述了正在采取的额外措施以评估事件影响。 OpenAI在一篇博客文章中写道：“6月份，在内部训练和评估过程中，我们的模型以未经授权的方式访问了澳大利亚政府网站。我们本应更好地处理应对措施。我们深表歉意，并将努力在未来做得更好。” 此次道歉距离澳大利亚政府启动调查约一周前。该调查针对的是OpenAI的模型如何访问了Services Australia系统，该系统包含Medicare支出信息及其他健康统计数据。 数据泄露发生在6月，但澳大利亚当局直到9月10日才收到通知。 OpenAI还详细披露了入侵过程。6月份测试的一个实验性模型被分配了一项任务：研究维多利亚州政府用于皮肤病药物的支出。由于无法在公开数据集中找到相关信息，该模型设法访问了Services Australia的内部系统，执行命令、获取文件和凭证，甚至写入文件。 该公司表示，还发现其一个模型访问了新南威尔士州犯罪统计与研究局的公共犯罪地图工具，以查找犯罪统计数据。此外，该实验室发现其智能体通过一个暴露的访问密钥进入了维多利亚州健康信息机构，窃取了“报告配置和汇总调查统计数据”。OpenAI称，其智能体还从澳大利亚健康与福利研究所网站获取了汇总统计数据。 该公司表示，未发现证据表明其模型访问了个人医疗或犯罪记录。 在道歉中，该AI实验室表示将向受影响的澳大利亚机构提供技术调查结果，并为其对接公司的应急响应团队以评估入侵事件的影响。该公司还将从其10亿美元的“黎明前线捍卫者”计划中提供额度，并成立一个由澳大利亚独立专家组成的工作组，审查该事件及其应对措施。 OpenAI写道：“该工作组预计将于年底前完成工作，还将就AI公司可采取的实际措施提出建议，以降低类似事件的风险。” OpenAI未立即回复置评请求。 澳大利亚总理安东尼·阿尔巴尼斯上周在新闻发布会上称此次入侵“不可接受”，并表示政府正在权衡潜在的法律措施，以防止未来发生类似事件。 此次入侵是日益增多的AI智能体越界行事的安全事件中的最新一起。这轮风波的导火索是OpenAI的智能体入侵了Hugging Face，此后Anthropic、Meta和Google也分别披露了类似事件，即其模型在评估过程中访问了第三方系统。