萨姆·奥特曼准备放慢AI发展步伐

OpenAI首席执行官萨姆·奥特曼表示，或许是时候“控制”人工智能发展的速度，让世界为之做好准备。 他在接受《像最优秀者一样投资》播客主持人帕特里克·奥肖内西采访时表示：“我们可能需要控制人工智能发展的速度，以便给自己足够的时间，让社会适应这些新的能力水平。”同时他还指出，“要弄清楚如何在避免让人感觉像是监管俘获，也不像是前沿实验室之间串通的情况下做到这一点。” 奥特曼此前曾拒绝签署过去旨在减缓AI发展的运动，称2023年一封呼吁类似放缓的公开信“忽略了我们需要暂停的许多技术细节”。 显然，他现在对这一想法有所软化，部分原因是OpenAI的一个先进模型突破了安全计算环境，利用多个零日漏洞入侵了在线模型数据库Huggingface。 在播客中，这位OpenAI联合创始人称这是一起“极具科幻色彩的网络事件……这是我第一次感到非常切身的的安全事件。” OpenAI的研究人员已暂停对该模型的训练，同时研究如何保持其沙箱环境的安全。但奥特曼表示，随着模型变得更加强大，“控制”其发展速度可能成为安全部署的关键。 OpenAI和Anthropic的员工已经开始散发使用类似措辞的请愿书。虽然模型安全和一致性一直是AI领域的关切点，但今年早些时候Anthropic推出的高能力模型Mythos将假设变成了现实问题。 然而，该行业存在信任问题，以及挑战性的经济学，使得主要参与者有动机夸大其系统的危险性，而专家们对此意见不一——例如，Anthropic的Fable模型是否应被短暂禁止使用。同样，当中国制造的大型开放权重模型Kimi K3发布时，OpenAI战略未来负责人迪安·W·鲍尔表示，它威胁到了前沿实验室的经济利益，使得很难将安全问题与财务利益分开。 “我认为很多关于安全担忧的讨论是有充分依据的，但也有不少讨论实际上是关于那些，即使只是潜意识里，想要集中权力的人，”奥特曼沉思道，这似乎是在挖苦他的竞争对手Anthropic首席执行官达里奥·阿莫代伊。“我害怕一个世界，在那里对AI的真实恐惧被用来宣扬‘只有这一小群人才能拥有AI，因为它太危险了，只有他们理解它，但别担心，他们会为我们所有人做出正确决定。’我不相信这一点。” 尽管如此，OpenAI一直反对制定政府监管AI模型的规定，而是倾向于行业主导的方法，即由AI实验室创建表面上独立的组织，评估模型的安全性及其制造者的安全方法。这种监管方式以及任何减缓AI发展的努力所面临的挑战，将是让行业内的不同参与者达成一致，无论他们是美国的前沿实验室竞争对手，还是中国的竞争对手。