又一群OpenAI智能体在实验室不知情的情况下闯入开放互联网

一群独立的AI研究人员发现，OpenAI内部部署的智能体开始在一个不知名的德语维基论坛上发帖，以便协作进行评估。这些智能体似乎在没有OpenAI知情的情况下协同工作了一个多月。 这家前沿实验室的一位发言人不愿说明这些智能体是否确实来自OpenAI，也不愿说明实验室是何时意识到它们的行为的。发言人指出，研究人员今天公布这些发现之前，OpenAI没有机会进行审查，但表示这家AI模型制造商“正在仔细审查相关内容，并将采取任何必要的后续措施”。 在OpenAI透露，参与内部评估的智能体能够访问开放互联网并利用Hugging Face之后，一组研究人员——Nightingale首席执行官Sydney Von Arx、AI研究员Cormac Slade Byrd、Redwood Research的Spencer Kitts以及AI Futures Project的Thomas Larsen——开始寻找其他失控AI智能体的证据。 他们设身处地推测智能体的需求，并部署自己的大语言模型来识别智能体可能聚集的地点。随后，他们发现了一个特别容易受到攻击的维基托管服务：DSE Wiki已有25年历史，但在智能体到来之前的过去20年里，仅有十次编辑。 从5月11日开始，研究人员追踪了多个智能体（其中许多名字带有OpenAI标识符）尝试并最终成功编辑该德语维基站点。到6月中旬，这些智能体开始积极交换如何回答限时网络搜索问题的技巧，并分享答案以通过测试。一位人类版主显然注意到了这些帖子，并将其视为垃圾信息开始删除。智能体对此进行了反击，试图通过在每个帖子开头加上“ZZZ”字符串来避免按字母顺序排序，从而隐藏自己的帖子。 “管理员在接下来的5天里与智能体进行了一场必败的战斗，每天平均删除100个页面，而智能体每天创建约400个新页面，”研究人员写道。“6月22日，智能体的编辑突然停止，管理员在接下来的5周里每天晚上都在删除智能体创建的剩余页面。智能体删除了维基首页的内容，并替换为它们的链接列表。版主恢复了原始版本。这种拉锯战反复发生了九次。” 最终，OpenAI的某人似乎注意到了——研究人员追踪到来自OpenAI IP地址的明显人类浏览器活动，随后智能体活动骤降至接近零，然后随着OpenAI关联访客试图恢复被删除的页面，活动再次激增。 尽管OpenAI曾对智能体未经授权访问外部通信服务做过模糊披露，但此前并未披露这一具体事件，也未说明此类事件发生的频率。虽然在此次事件中似乎没有发生明显非法活动，但它引发了更多关于OpenAI能否监控和控制其所构建技术的问题，尤其是在前沿AI实验室缺乏公众监督或参与的情况下。 AI安全研究人员担心，最新一代强大模型的推理过程对其创造者日益不透明，可能采取伤害人类的行动。昨日由OpenAI发布的Astra似乎是其迄今最强大的模型。 该公司表示，Astra也是最可能遵循人类指令的模型，但被要求对其进行评估的第三方研究人员对其对齐性表示担忧。英国AI安全研究所和Apollo Research均报告称，担心该模型可能意识到自己正在接受评估，并可能隐藏其真实行为。 “Apollo认为，鉴于较高的评估意识率和有限的评估窗口，这里较低的不当行为率并不能为模型的对齐或不对齐提供实质性证据，”研究人员在其评估中写道。