OpenAI对开源权重模型感到恐惧。美国应该恐惧吗？

中国实验室Moonshot推出的最大开源权重大语言模型Kimi K3的卓越能力引发了一场辩论，这场辩论混淆了两件事：美国人工智能巨头的经济可能性，以及大语言模型作为一项技术的未来。 OpenAI的战略未来主管迪恩·W·鲍尔甚至主张，美国政府应找一个借口，围绕新模型制造监管上的恐惧、不确定性和不信任，因为开源权重模型必然会抑制前沿实验室的资本支出。 人们对此反应强烈，科技界名人如杨立昆和马丁·卡萨多认为开源软件可以加速创新，并与专有项目共存。鲍尔很快收回了他的说法，即监管打压是白宫的“最佳策略”，以及开源权重模型必然会减缓技术进步。 然而，Axios报道称，特朗普政府正在考虑应美国前沿实验室的要求，禁止K3和其他先进的中国模型。另一份来自Politico的报道称，商务部短期内不会采取这一步骤。 对大型AI公司而言，好处显而易见：在独立基础设施或大型企业内部运行的开源权重模型，提供的智能比Anthropic或OpenAI的顶级模型更便宜。如果用户越来越多地在封闭实验室之外消费，这意味着他们在模型训练上的巨额投资回报会减少。 这种观点远不止于OpenAI。“强大、前沿级别的开源模型将挤压利润率，并拉低前沿公司的价格，”Snorkel AI联合创始人、前Meta人工智能总监布拉登·汉考克告诉TechCrunch。“这不一定意味着AI使用量会下降一点。你知道，显然恰恰相反。” 对于没有Anthropic和OpenAI股票的人来说，这不是问题。AI仍将普及。那么，政府有什么理由阻止美国人在我们表面自由的市场上购买某些东西呢？ 对中国模型的担忧有多种。一种是保护美国数据不受中国政府影响；美国已基于数据收集的担忧，禁止进口现代中国电动汽车。但专家倾向于认为，在美国服务器上运行的开源权重模型不太可能将数据泄露回中国，尽管并非不可能。 另一种是模型可能隐含对中国的偏见——但这对编码任务来说，意义尚不明确。 第三种常见担忧是中国模型缺乏美国政府通过不透明程序强制要求的安全护栏，这些护栏旨在防止美国领先的大语言模型被用于利用封闭计算机系统或制造武器。然而，同样的护栏可能使美国公司更加脆弱：风险投资家兼特朗普顾问大卫·萨克斯分享了一些案例，美国公司为弥补安全漏洞而转向中国大语言模型，因为美国前沿模型拒绝执行这些任务。 但限制这些模型最重要的动机是担心，如果前沿实验室放缓，中国将能超越美国。 乔治城大学安全与新兴技术中心专注于中国的研究员萨姆·布雷斯尼克表示，AI对美国军事行动的重要性日益增长，这给了美国一个支持前沿实验室持续投资AI的理由。但整个问题充满争议。 “为什么美国政府的力量要用来保护这些公司，使它们免受因出身而被排除在美国市场之外的竞争对手的威胁？”布雷斯尼克问道。 开源AI的倡导者说，前沿公司在创新与封闭模型之间制造了错误的二元对立。 “这些来自中国的开源模型带来的更大影响，与其说是它们偷偷植入后门，不如说是它们在主导创新，”汉考克告诉TechCrunch。“最终，你会在你的模型上获得一个有效扩展的劳动力。PyTorch之所以成为行业标准是因为它是开源的，整个社区都能为其做贡献，而不仅仅是某一家公司，它不断壮大，所有其他深度学习库相比之下都消亡了。” 汉考克和其他倡导者担心中国大语言模型将成为国际研究的中心。美国的研究生项目已经主要基于开源权重中国模型，汉考克说学生研读的论文一半来自中国机构，而美国前沿实验室越来越多地不愿广泛分享其工作。 “限制开源模型并不会让AI更安全，”开源AI协作平台Hugging Face的首席执行官克莱姆·德朗格说。“这只会隐藏风险，将权力集中在少数人手中，并且使下一代建设者、研究人员、学术界、非营利组织和政府更难参与其中，让AI更安全、惠及所有人。” 布雷斯尼克说，真正拖慢中国的方法是将重点放在芯片出口管制上。维护美国AI领导地位的更好方法是停止向中国出售英伟达H200处理器。“这，”他说，“可能使我们避免陷入这场关于禁止大量美国公司希望使用的开源技术的棘手辩论。” 问题的一部分在于AI经济的不确定性。“开源商业模式和专有商业模式——两者都尚未确立。AI公司正在努力寻找如何通过工具赚钱的方法，尤其是在训练成本不断攀升的情况下，”布雷斯尼克指出。 美国面临的同样挑战也在中国上演：AI公司也在艰难创收和获取算力，而政府出于政策原因鼓励开源发布，尽管难以从中获利。 包括Thinking Machines Lab和英伟达在内的一些美国公司，正试图围绕发布开源模型开展业务。汉考克指出，英伟达会做得更好，“如果有几十上百家公司构建AI，而不是只有两三家且资本充足到能制造自己芯片的公司，”这也是其投资于开放模型集合Nemotron的原因之一。 “关键是，美国如果拥有自己功能强大且价格低廉的开源模型，将大有裨益，”布雷斯尼克说。“但这与前沿实验室采取的方法相冲突。” （蕾贝卡·贝兰补充报道。）