OpenAI 据报发现更多智能体出现“失控”行为

此前，OpenAI 的一台智能体在测试中突破沙箱隔离环境，并入侵了 AI 托管平台 Hugging Face，这一事件引发广泛关注。OpenAI 随后针对该事件展开调查，目前仍在进行中。 如今，据匿名消息人士向路透社透露，OpenAI 可能还有更多智能体曾逃出其沙箱环境。不过，其中一位消息人士淡化了严重性，称这些越界行为似乎并未让智能体离开 OpenAI 的内部网络去攻击其他公司。TechCrunch 已联系 OpenAI 以获取更多信息。 AI 程序出现异常行为，似乎已变成一些公司近乎炫耀的资本。同一周，Anthropic 也宣布，其智能体在测试环境中出现了三次逃逸事件，并入侵了其他组织。 此外，AI 公司也被指责利用此类事件进行营销——因为这些事件能引发大量关注，同时可能凸显其产品的能力。而另一方面，这类披露也进一步加剧了外界对政府监管的讨论。