Anthropic的Dario Amodei回应：不反对开源模型，但担忧中国AI

Anthropic创始人兼CEO Dario Amodei周一下午回应了业界传言，该传言称他的公司支持美国政府禁止中国开源模型，甚至可能全面禁止开源模型。 “任何读过我过往文章的人都应该知道，我并不认为这类禁令是有用的措施，但让我明确说明，以免存在任何疑问：Anthropic从未主张禁止开源模型，”他写道，强调是他本人的立场。 他的回应是在Nvidia创始人兼CEO黄仁勋上周五在X平台（他的首次发帖）上发表公开信之后。在这封信中，Nvidia与Hugging Face、Meta、Microsoft、Mistral等多家AI公司共同呼吁政策制定者不要对开源AI模型施加广泛的“过早限制”。 虽然那封信并未特别提及中国，但业界争论的焦点在于，中国AI实验室常常通过窃取美国同行的知识产权来提升能力。其中一种方法是蒸馏，即一个AI模型通过大量提示轰炸另一个模型来学习其运作方式。 Amodei在周一发表的博文中表示，他认为开源模型与中国构成的威胁是不同的问题。“不具备危险能力的开源模型是一种公共产品：除了运行所需的算力外，它们不消耗任何成本，并且为商业、开发者和研究人员提供价值。” Amodei在文中指出，他长期以来对AI感到担忧，但企业使用开源模型——即使是来自中国的模型——并不在他担忧之列。 他担忧的是，“威权政府”将构建比美国更强大的模型，以实现“永久军事优势”，或利用AI压制本国人民。他表示，中国（CCP）并非他担忧的唯一威权政府，但它是“最有能力的”。 Amodei还表示，他担心AI不仅会引发网络安全威胁，还会导致“生物攻击”。在他看来，开源模型在这些场景下更加危险，因为很难为其设置护栏或监控其使用。他还引用英国AI安全研究所的一份报告指出，一旦开源模型发布，就无法撤回。 这与开源倡导者的观点相悖：他们认为，访问不受单一实体控制的强大开源模型有助于防御者保护自己。 Amodei列出了一些他认为可以遏制中国的行动，包括限制其获取强大芯片（这是美国长期以来的政策），以及呼吁正式打击蒸馏行为。美国已威胁称，如果认定存在涉及美国模型的知识产权盗窃，将对中国实施制裁。 有趣的是，Amodei还表示支持各方（包括美国主导）努力建立模型安全测试组织，特别是如果包括中国在内的整个世界都同意接受该组织的测试。 “我认为这个想法实际上接近共识：令我欣慰的是，特朗普政府近几个月已朝这个方向努力，而且业界最近的提案也主张，对最强大的模型进行此类测试，无论其来源国是哪里，也无论其是开源还是闭源（同时完全豁免初创公司和学术界的较弱模型），”Amodei写道。 “请注意，要使其有效，”他补充道，“测试需要是全球性的，这意味着连中国也必须参与。我认为这实际上是可能的……在防止AI生物武器方面进行有限合作是可能的，因为这符合中国的利益。”