AI安全担忧加剧之际，三位先驱力主保持开放

随着“Pacing the Frontier”等项目将大型实验室视为保障AI研究安全的一种方式，开源模型已成为行业的一大痛点。由于免费分发且对使用方式几乎不加控制，开放权重模型不易管控，导致一些实验室将其视为相当可怕的存在。 但上周在拉斯维加斯举行的Ai4大会上，全球最受尊敬的三位AI研究者——诺贝尔奖得主杰弗里·辛顿、World Labs首席执行官兼联合创始人李飞飞、Coursera联合创始人吴恩达——就此问题公开发声。尽管他们在具体策略上意见不一，但三人都为保持AI的开放性提出了强有力的理由。 对三位发言者而言，核心关切在于允许少数大型AI公司掌控进步的步伐。当少数公司控制了一项技术的获取途径，就像苹果和谷歌在移动操作系统领域那样，创新可能会放缓，而控制平台的公司能够影响在此之上构建的内容。 吴恩达表示，他担心AI领域会出现类似态势。“我不希望存在‘看门人’，”吴恩达说，“那会限制我们所有人获取AI的能力。” 公司有动机保护自身竞争优势，包括通过影响行业规则来实现。这可能造成一种局面，只有那些规模最大、资金最充裕、有能力构建最先进AI系统的企业才能主导。 吴恩达的解决方案是维持多元化的提供方，让模型和公司相互竞争，而不是允许少数玩家主导该领域。“如果非要给出一个处方，那就是促进开放性，”吴恩达说，“因为AI是令人惊叹的技术，我希望它掌握在每个人手中。” 但并非所有人都认同开放权重模型有助于维持这种局面。尤其是辛顿，他区分了开源软件与开放权重模型：开源软件让底层代码可供检查和修改，而开放权重模型则将训练好的AI模型参数公之于众。 “开源很棒。你把代码展示给大家，很多人会查看代码行并说‘嘿，这里有个bug’。开放权重则意味着你训练一个大模型，然后把权重交给别人。这两者截然不同，”辛顿说，“我曾反对开放权重，因为这让人们可以轻易拿这些训练成本高昂的大型基础模型，以低得多的成本让它们去做坏事，比如网络攻击。” 但无论有何保留，辛顿承认开放权重模型已经是AI领域不可逆转的常态。“我认为这场仗已经输了。我们现在已经有了开放权重模型，所以让很多人获取这些大模型的障碍——即训练基础模型的成本——已经消失。太晚了。” 然而，接受现实并不意味着忽视风险。辛顿的立场很明确：AI将继续发展，他认为这在很大程度上是好事。他说，AI将提升生产力，改善教育和医疗。“担心AI可能带来的负面影响，以及比我们更聪明的智能体可能做的事情，我认为这并非不合理。但将任何这样思考的人标签为‘散布恐慌者’是不公平的，”辛顿补充道。 吴恩达持不同观点。他认为，问题不在于开放模型是否有风险，而在于谁控制访问以及谁将赢得市场。谁构建更廉价的模型，谁就占优势。他警告说，如果中国的开放权重模型在亚洲、非洲和发展中世界被广泛采用，它们可能会影响数十亿人对民主、自由和人权等观念的认识。 “我希望我们做的一件事是鼓励美国的竞争力和开源AI。事实证明，AI是巨大的软实力来源。你可以看到中国模型在非洲等地取得了巨大成就，”吴恩达说，“但我的担忧是，由于美国大量的游说和恐慌散布，在美国构建开源AI正在艰难地与中国涌现的开放权重模型竞争。我担心的是，如果中国找到了从根本上更具成本效益的AI构建方式，那么更具成本效益的东西在商业采用上握有天然优势。” 李飞飞对这一框架提出了反驳。“将这个问题简单化为完全开放与完全封闭的二分法是危险的，”她说，“在复杂的软件系统和科学系统中，情况要微妙得多。” 李飞飞以核物理为例：科学论文公开出版，但铀受到监管，而实验室工作介于两者之间。她解释说，其中的启示是，开放不一定是非此即彼的选择。生态系统的不同层级可以在不同的开放程度上运作。 她还强调了公私机构之间的合作，例如人类基因组计划。她说，由此产生的知识成为他人可以继续构建的平台，使制药公司获利、科学家推进工作、社会受益。 “所以我认为我们必须将AI视为这样的基础设施，”李飞飞说，“我们需要在科学发现、教育、全球伙伴关系以及企业盈利商业模式等方面保持一定程度的开放。但我们也应接受闭源系统。这场辩论，尤其是那种‘我们只能容忍一种’的笼统论调，是虚假的辩论。我们需要达到更细致的层面。” 但所有人都同意，需要某种程度的监管才能使AI走上正轨。“我们想做的是沿着有益于人类的方向发展AI，监管将帮助我们做到这一点，”辛顿说，“我们不能把如何发展AI的问题交给埃隆·马斯克和马克·扎克伯格这样的人来决定。”