英伟达动作神速：开放AI行业组织成立仅一周，已初见成效

由英伟达领衔的开放安全AI联盟（OSAA）成立仅一周，成员已增至超过120家公司。该组织设立了一个名称颇为可爱的工作组——“共享AI发现交换机制”（Shared AI Findings Exchange，简称SAFE）。工作组目前已提出多份公开征求意见的提案，并由联盟成员之一Linux基金会负责管理。 这些提案是在本周于拉斯维加斯举行的全球网络安全盛会Black Hat大会期间，成员们齐聚一堂时共同制定的。 就目前而言，这些指导方针并未带来颠覆性变革。提案内容涵盖如何保密报告AI网络安全事件、向受影响方发出警报，以及进行无追责分析，以便各方从中汲取经验教训。 与此同时，OSAA成员还在贡献并整理各自可能有用的开源技术片段。随着这类行业组织的发展，这些成果最终有望汇聚成一套开源方案，帮助企业保护其AI代理，或抵御恶意AI攻击者——例如曾渗透进Hugging Face的OpenAI模型（Hugging Face也是该联盟成员）。 举例来说，英伟达表示其提供全系列开放模型，以及名为Garak的开源大语言模型漏洞扫描器；Okta正在研发代理身份技术；Red Hat致力于代理治理；亚马逊贡献了开放代理构建工具Strands Agents和授权语言Cedar。此外还有更多实例。 该联盟现已囊括众多知名企业，包括Adobe、贝莱德、思科、英特尔、微软和Visa等，但也有一些显眼的缺席者，如Anthropic、OpenAI和谷歌。 有趣的是，OpenAI和谷歌都签署了催生该联盟的公开信。这封上周发布的信件敦促白宫支持而非打压开源AI工作，由英伟达倡导，超200家科技公司联署。 虽然Anthropic迄今对公开信和行业组织冷眼相对并不令人意外，但OpenAI和谷歌均已发布各自的开源权重模型。谷歌素来也被视为开源的大力支持者。随着该联盟势头渐起，我们拭目以待它们是否加入。 与此同时，该联盟正以AI般的速度运转。距消息曝出特朗普政府考虑禁止中国开源权重模型、引发行业震惊并促成公开信，仅过去几周时间。 无论中国开源权重模型在美国最终命运如何，这个重量级联盟的快速行动对美国开放AI生态而言似乎是件好事。生态中的一些人，如美国开源权重AI实验室Arcee的联合创始人兼首席技术官，表示这最终是对抗中国AI实验室对美国构成任何威胁（无论真实还是想象）的最佳方式。 “开放性可能是通往AI安全与保障的最重要路径之一。”该行业组织在信中写道。看来他们已准备好立即将行动——以及技术——付诸实践。