🤖
🤖
核心导读
Writer发布基于Z.ai开源模型的后训练变体旗舰模型Palmyra X6,并升级智能体框架。新方案主打多步复杂任务的低成本执行,预计可为客户削减50%的基础任务成本。研究显示框架优化比模型选择更有效,平均降本40%。CEO直言企业已厌倦追逐基准,AI实验室未能真正帮助企业获益。
在整个AI行业,用户越来越意识到其部署成本之高,并迫切需要削减开支。尽管开源模型的单位Token成本显著更低,但为特定任务找到合适的模型可能十分困难。
周四,为营销人员提供AI工具和智能体的Writer公司推出了名为Palmyra X6的新旗舰模型,旨在解决这一难题。Writer表示,该模型基于Z.ai的开源模型GLM-5.2进行后训练变体开发,应当以更低价格提供可直接部署的能力。公司估计,新模型结合其智能体框架基础设施的改进,可为客户削减最多50%的基础任务成本。
伴随新模型,公司还发布了其标准智能体框架的重大升级。这两项功能将于周四起向Writer客户提供。
“我认为企业界已经完全厌倦了追逐下一个基准,”CEO May Habib对TechCrunch表示,“他们想要成本趋平,但似乎没人能做到这一点。”
新方法尤其强调复杂、多步骤任务的执行,要求速度更快、Token消耗更少。Writer将智能体框架优化视为实现这一目标的关键杠杆。
Writer研究人员近期的一篇论文支持了这种思路。研究在多个不同模型上测试了框架效率的微小变化,发现框架调整往往比模型选择更能稳定降低成本,测试中成本平均下降40%。
研究人员写道:“框架是唯一能够在一个组织运行的所有模型中——无论现在还是未来——将其效率成倍放大的组件。”
对于Writer的客户而言,体验仍然是模型无关的:Palmyra X6将与其他Writer模型或通过Azure、Amazon Bedrock导入的外部模型并列。但Habib也认为,削减成本的迫切需求正在加剧企业对主要AI实验室的不信任,因为这些实验室有经济动机推高Token使用量。
“这里的成本爆炸对客户来说前所未有,CIO们对AI实验室的放弃程度同样前所未有,”Habib告诉TechCrunch,并补充称AI实验室“并未真正理解如何帮助企业从AI中获益。”
分享这篇文章: