HiddenLayer融资1亿美元，企业竞相确保AI部署安全

三年前，AI安全初创公司HiddenLayer完成5000万美元A轮融资时，业内的一大疑问是：这家公司所防护的AI威胁是否会出现足够多的实例，从而形成一个真正的市场。正如我当时的同事Kyle Wiggers所言，当时很难找到针对AI的大规模攻击的真实案例。 然而，形势瞬息万变。如今，安全公司纷纷争相打造能够监控智能体及其所用工具和插件产品。虽然关于智能体被利用的报道仍然不多，但智能体在生产过程中失控的风险却是真实存在的。因此，防止此类事件发生的工具市场迅速爆发：Gartner估计，企业今年将在保护AI工具的产品上花费28.3亿美元，比2025年增长83%，并预计明年这一支出将接近47.8亿美元。 HiddenLayer专门打造保护AI模型、智能体及工作流免受对抗性攻击、漏洞和恶意代码注入的工具，成功抓住了这一转变带来的机遇。其联合创始人兼CEO Chris Sestito告诉TechCrunch，该公司过去一年的年度经常性收入（ARR）增长了10倍以上。他拒绝透露具体数字，但表示ARR目前处于“数千万美元”量级，其中超过90%的增长来自过去一年新签客户。 金融服务和构建AI产品的大型科技公司目前是该公司最大的垂直领域，同时它也与国防部和情报界签有合同。其客户之一显然是“领先的前沿模型提供商”，拥有“超过7亿周活跃用户”，这听起来像是OpenAI或Anthropic。 为了充分利用这一势头，该公司现已完成1亿美元B轮融资，由Delta-v Capital领投，Ten Eleven Ventures、摩根士丹利、微软旗下M12、Booz Allen Hamilton等参投。 这家总部位于奥斯汀的初创公司总体上仍在销售与2023年相同的产品，但Sestito告诉TechCrunch，他们不得不做出的最大改变是，将现有的产品——发现、运行时保护、攻击模拟和供应链安全——扩展以应对提示注入、智能体操纵和恶意工具使用。 “推理仍然是推理。因此，无论是传统机器学习模型、生成式AI还是智能体工作流，我们的许多技术仍然适用。所以，实际上我们不必转向，但我们必须扩大范围……从传统建模到生成式AI再到智能体，”他说。 Sestito强调，随着AI部署在企业中日益普及，运行时安全尤其成为优先事项，并将其比作传统的端点检测与响应（EDR）解决方案，但这次专为AI打造。 公司的新产品反映了这一转变，Sestito还重点提到了攻击者利用开源模型的新机会。“我们解析并扫描约50种不同的AI文件框架，以确保——尤其是在开源和开放权重模型的情况下——你正在使用的工具是真实的，且与宣称的一致。我们关注的是那些声称是某种东西但实际是另一回事的模型——模型中的隐藏模型，”他说。 这家初创公司表示，新的1亿美元将助力其朝这个方向建设，不过更多侧重于销售和分销，同时继续扩大工程和研究团队。它还计划扩展到欧洲和EMEA地区。 不过，HiddenLayer可能会发现需要动用这笔资金来应对更多竞争。大型网络安全公司（如Cisco、Palo Alto Networks和Check Point）通常更倾向于收购而非自研这类技术，而像Noma和Zenity这样的初创公司已各自融资超1亿美元，以进军这一领域内相邻或重叠的市场。 Sestito承认，其公司提供的部分AI安全产品最终可能被纳入微软、OpenAI和AWS等公司构建的平台中。不过，他预计AI基础设施将朝着治理功能方向发展，如发现、身份和策略控制，而非他公司所构建的那类工具。 目前，他说HiddenLayer的职责是“与人工智能一同垂直扩展”，并最终横向扩展到日益依赖AI的网络安全领域。这是一个雄心勃勃的目标，但这家公司首先要证明，在行业其他竞争者赶上之前，它能将先发优势转化为持久业务。