🌐 English 即时比分

英伟达的AI优势正超越GPU本身

人工智能 来源: TechCrunch 发布时间: 热度: 👍👍
英伟达的AI优势正超越GPU本身
🤖
🤖

核心导读

英伟达的长期优势正从GPU硬件延伸到更复杂的系统层。随着AI算力规模迈向吉瓦级,数据编排与调度成为关键瓶颈。英伟达通过Vera Rubin架构(含Vera CPU、存储与网络设备)大幅提升系统效率,使其在GPU竞争加剧的背景下仍保持领先。这标志着AI基础设施竞争的新战场已转向整体系统的智能调度能力。

本周之前,关于英伟达的主流叙事大致如此:在AI热潮的最初几年,英伟达是先进GPU的唯一来源,随着行业规模扩大,这项业务变得极其赚钱。而在过去几年里,亚马逊、谷歌等超大规模云服务商开始自研芯片,英伟达不再是唯一玩家,许多投资者因此开始质疑其优势究竟能持续多久。 这是一个引人入胜的故事,且大体属实。从2023年初到2025年年中,英伟达市值增长了10倍,但此后一年里,受GPU竞争担忧拖累,其股价走势趋于平缓。 自周三公司发布财报以来,一种新的叙事正在形成——投资者开始意识到,英伟达的优势远不止于GPU。随着AI算力规模迈向吉瓦级,编排调度已成为日益复杂的任务。不出所料,英伟达打造了大量应对这一挑战的先进硬件,使其在GPU周边的系统层面拥有巨大优势,即便在GPU本身面临更激烈竞争的情况下也是如此。 尽管人们常谈论算力如同商品,但以峰值效率运营一座超大规模数据中心依然极其困难——而且随着部署规模更大、速度更快,这一挑战只会愈发严峻。 仅从英伟达实际销售的产品细节中,就能窥见一二。该公司目前正在推出其Vera Rubin架构,将Rubin GPU与一系列其他单元配对,包括Vera CPU、Groq 3 LPX推理加速器,以及类似的存储和网络机架。 过去一周,我与英伟达相关人士交流了这些系统的实际功用,结果令人意外。与Rubin GPU本身一样,它们都是高度专业化的系统,但并非用于处理token,而是确保GPU之外的一切尽可能高效运转。如果说GPU是引擎,这些就是汽车的其他部分。 Vera CPU尤其专注于数据编排问题。“Vera之所以重要,是因为单个服务器或任何计算平台能够容纳的内存是有限的,”英伟达存储技术副总裁杰森·哈迪告诉我。 随着数据中心不断扩大算力,内存容量也随之增长,这正是美光等公司在基础设施热潮第二波中赚得盆满钵满的原因。但要在恰当时机将数据送到GPU并非易事——随着企业不断追求降低每瓦特token数,它们愈发意识到这类流量调度的重要性。 “我们看到这些操作有超过3倍的提升,Vera CPU实现了加速,”哈迪说。“现在我们可以充分发挥闪存的潜力,因为能在不造成瓶颈的情况下获得全部性能。” 在英伟达之外也能看到类似问题的缩影。OpenAI在开发Jalapeño芯片时,一大重点就是完全规避这些挑战,尽可能减少需要搬运的数据量。 “我们设计Jalapeño就是为了最大限度地减少数据移动和通信延迟,”该公司本月早些时候在一篇博客文章中说。“其巨大的域内空间使整个工作负载可以保持在一个互联系统中,最大限度地减少数据移动,让完整请求从头到尾都快速高效。” 这是一种不同的方法,通过在一个集成芯片内完成工作负载来完全避免数据移动。但总体逻辑是相同的:通过更智能的流量控制而非单纯增加处理器周期来提高效率。这反过来又为各公司开辟了一个全新的基础设施竞争层面。 对数据编排的这一新关注并不自动意味着英伟达获胜。该公司仍将像在GPU领域一样,与竞争对手芯片制造商和超大规模云服务商竞争。但竞争已转移到新的层面,在那里,打造一款对等的GPU已不如让整个系统高效运转来得重要。 而至少在早期阶段,英伟达看起来拥有压倒性领先优势。
分享这篇文章: