美国开源AI实验室Arcee：中国模型本质上并不危险

随着中国开放权重AI模型的能力和受欢迎程度不断提升，关于如何应对它们的争论再次达到了白热化程度。 有讨论称特朗普政府可能试图禁止这些模型（尽管尚未付诸行动）。与此同时，闭源模型制造商——尤其是OpenAI和Anthropic——似乎越来越对此感到担忧。 月之暗面（Moonshot AI）的Kimi K3或阿里巴巴的Qwen等开放权重模型，其推理的令牌成本仅为美国大型实验室闭源模型的几分之一。人们担心它们会构成某种威胁。当然，它们威胁到了大型专有AI实验室的利润率。 然而，那些在自己的数据中心运行这些模型的企业，是否应该屈服于它们可能成为中国黑客攻击媒介的恐惧？ 不，Arcee的首席技术官Lucas Atkins表示。Arcee正在构建开放模型，为美国公司提供本土替代方案以对抗中国模型。 如果说有哪家初创公司会从禁止中国模型中受益，那非Arcee莫属。但Atkins表示，中国的开放模型并不比公司可能使用的任何其他开源软件更危险。事实上，他说，这些模型甚至对自己的公司也有益处。 “很多人将其视为类似于中国软件程序，认为它们被编写时带有某种意图，可以被不良行为者随意操控，”他说。 “但这从根本上违反了这些模型的训练方式。Arcee或阿里巴巴根本不可能制造一个模型，让别人在自己的环境中运行，而我们对它有任何访问权限，”他解释道。 虽然这些模型大多属于所谓的“开放权重”，并非完全开源软件，但源代码（实际在服务器上运行的部分）如果从Hugging Face等开源网站下载，基本上也是可见且可审查的。（不可见的是用于训练模型的方法和数据。） 大型组织应将任何模型核心纳入其安全测试和审查流程，并且通常会针对特定用途对模型进行后期训练，检查偏见、毒性、幻觉、对某些主题的敏感性等方面。因此，在人们开始发送提示词之前，他们会处理、优化并理解这些模型。 用于编码的模型会不会在它编写的代码中注入恶意后门？同样，虽然理论上可能，但这需要高超的技巧才能实现。 “一个足够老练的参与者没有理由不能训练一个模型，使其在所有情况下都成为完美的编码模型，但在遇到某种特定代码库时……一些隐藏的训练就会被激活，”Atkins推测道，他每天都在训练模型。但他补充说：“我不知道怎么做。” 由于大型语言模型本质上具有创造性，要让当代模型在预设的完美风暴上下文和提示下生成恶意软件，可能性微乎其微。企业随后使用该代码的可能性则更小。 未来会不会发生？谁也说不准。但企业也在构建与模型无关的AI应用，并使用多种模型。因此，即使中国模型目前性价比最高，企业也不会永远被锁定在其中。 “我认为，与其讨论如何禁止中国模型，不如讨论如何在美国培育一个良好的开放生态系统，”Atkins说。 Arcee也从中国模型中获益。由于它们是开放的，这家初创公司“受益于这些模型的优秀，因为我们可以学习他们的做法。我们可以在此基础上构建。然后他们也可以学习我们的做法，”他说。“我们非常尊重构建这些模型的人，以及那些独立研究人员。” 最终，与中国模型竞争的方法“是发布一个更好的模型，”Atkins说。“我们需要给他们一些可以谈论的东西。”