🌐 English 即时比分

数据中心能否走向便携?Runware推出模块化Pod尝试作答

人工智能 来源: TechCrunch 发布时间: 热度: 👍👍
数据中心能否走向便携?Runware推出模块化Pod尝试作答
🤖
🤖

核心导读

Runware推出模块化数据中心Sonic Inference Pod,以便携式单元提供灵活推理算力,宣称成本更低、部署更快,无需水冷,数天即可建成。目前已在全球部署10个Pod,服务Higgsfield AI、Wix等客户。CEO认为分布式计算是长期趋势,并强调模块化设计可规避大规模数据中心的高资源消耗与建设周期问题,同时不惧与OpenAI等巨头的大型数据中心项目竞争。

周二,AI基础设施公司Runware宣布推出其自研的模块化数据中心——Sonic Inference Pod。该Pod被设计为一个可运输的独立单元,代表了一种更为灵活的计算形态,可与超大规模运营商的数据中心项目并驾齐驱。 Runware表示,与其他无服务器推理平台和GPU云相比,Pod能够以更低的成本提供更高质量的推理服务。模块化设计意味着可以快速新建Pod来扩展容量,而无需扩建固定数据中心。Runware联合创始人兼CEO Flaviu Radulescu向TechCrunch表示,从某种程度上说,这就是未来。 “我们相信,分布式计算——更靠近最终用户以实现更快推理——将是长期制胜的关键。”Radulescu说,并以自家公司为例。除了更低的价格,Radulescu还指出,Runware系统能够快速扩展和增加容量,在有电力的地方部署,并能迅速适应新的硬件发布。Runware的Pod也不使用水,而是采用闭环冷却系统,建造时间仅需数天,而传统数据中心往往需要数月甚至数年。 “推理需求的增长速度超过了设施建设速度,”Radulescu说,“我们想要的是为全球智能提供动力,成为所有AI模型运行的骨干,让算力跟上需求,而不是制约需求。” Radulescu透露,Runware目前在美国、欧洲和亚太地区部署了10个Pod。公司已为多家企业提供推理服务,包括Higgsfield AI和Wix,并已拥有160个可用站点来为Pod供电。Runware在去年12月宣布完成5000万美元A轮融资,旨在为企业提供生成图像所需的基础设施。他们视Pod扩展为公司核心使命的一部分:为企业提供推理服务,而非单一产品。 像OpenAI和SpaceX这样的AI实验室仍然竞相在美国各地建设数据中心。例如,据报道,OpenAI接近达成一项5000亿美元的交易,将在俄亥俄州建设数据中心。但Radulescu并不认为这些项目会对Sonic Inference Pod构成威胁,他将Pod的灵活性视为关键差异点。 “每个Pod都作为单一网络的一部分运行,因此请求会发送到任何有容量的地方,更靠近用户;如果某个Pod离线,流量会转移到另一个Pod。”他补充说,系统故障意味着只有一个Pod宕机,而不是整个固定设施瘫痪。“需要专用硬件的客户可以独享整个Pod。” 他也不太担心其他公司自行建造类似产品,直截了当地表示硬件开发速度缓慢,而且能找到的建造和维修这类技术的专业人才很少。 “电路板设计中的一个错误,可能导致重新设计、仿真、制造、测试和交付之间耗费数月时间。”他说,“每一步都需要有人清楚了解每个组件的作用,以及缺失时会导致什么故障。” 然而,建设AI数据中心是一个有争议的话题,尤其是因为它消耗大量资源。数据中心所在地的社区已经报告公用事业费用上涨。Runware设想有朝一日能使用可再生电力运行,不占用社区所需的资源,但这一天未必是现在。 Radulescu表示,无论如何AI电力消耗都会增长,“这是由推理需求驱动的,而不是由谁供应驱动的。”他说,Runware当前关注的是如何满足这一需求。“没有输电损耗,冷却不用水,我们使用的是现有电力,而不是要求新建电网容量。用这种方式建设的推理算力越多,在同等计算量下所需的新电网和用水就越少。”
分享这篇文章: