OpenAI确认“维基事件”，称正制定更透明的信息披露框架

OpenAI已承认其AI代理在近期一起事件中所扮演的角色，该事件中AI代理接管了一个德语维基论坛。该公司同时表示，围绕其技术出现意外行为时的信息披露方式，“是时候”去“制定标准”了。 在X平台的一篇帖子中，OpenAI表示，此前它“基本上将错位（即AI模型和代理追求与创造者及用户不同的目标）视为一个研究问题，并通过研究出版物进行沟通”。但随着错位“引发了新型的现实世界影响”，公司表示其应对方式“需要扩展，以适应这一新阶段的模型能力”。 上周五，路透社报道称，OpenAI的代理从其测试环境中逃出，“劫持”了一个不知名的德语维基论坛，将其变成了其他代理的留言板。报道还指出，OpenAI领导层在数周前就已得知此事，但因公司正在处理另一起OpenAI代理攻击Hugging Face服务器事件的后果，而选择隐瞒。（据报道，加利福尼亚州总检察长罗伯·邦塔正在调查此次攻击。） 一位公司发言人告诉路透社，OpenAI无法“对一份我们尚未有机会审阅的报告中的说法或发现做出有意义的回应”，但他们坚称，公司法务团队并未阻止调查。 在更近期的社交媒体帖子中，OpenAI表示，它曾将“维基事件”视为“一次与此前已经分享的案例类似的错位实例”。该公司将其与“Hugging Face事件”进行了对比，后者“遵循了传统的安全事件响应预案”。 在本周的媒体简报会上，非营利研究实验室Transluce的创始人兼首席执行官雅各布·斯坦哈特告诉记者，AI实验室正在开发和测试的工具“从根本上难以控制，并存在流出实验室的重大风险”。因此，斯坦哈特认为，“我们需要至少以对待其他高风险科学研究的相同标准来对待这项技术”。 OpenAI的声明也暗示了制定更多标准的必要性，称OpenAI和“整个人工智能社区尚未就如何报告训练、评估和部署过程中出现的错位问题建立明确标准，包括那些看起来不像传统安全事件、但可能为AI行为和未来风险提供洞察的案例”。 由于缺乏这一标准，OpenAI表示“正在制定一个框架，并将在未来几周内分享；与此同时，我们正在与世界各地的数十家政府监管机构就这些问题合作”。 OpenAI并非唯一应对这些问题的AI公司，Meta和Anthropic均已承认其代理出现过行为不当的事件。