估值达156亿美元的法律AI独角兽Harvey，其业务核心原本是训练OpenAI的GPT-4等AI模型，为律师提供专业服务。然而，近期急剧膨胀的算力与调用成本，正迫使这家明星初创公司重新审视对AI巨头的深度依赖。据知情人士透露，在3月对其AI智能体进行更新后，Harvey的客户使用量激增，但毛利率却急剧下降—……

本文来自微信公众号： 财联社AI daily ，作者：潇湘

估值达156亿美元的法律AI独角兽Harvey，其业务核心原本是训练OpenAI的GPT-4等AI模型，为律师提供专业服务。然而，近期急剧膨胀的算力与调用成本，正迫使这家明星初创公司重新审视对AI巨头的深度依赖。

据知情人士透露，在3月对其AI智能体进行更新后，Harvey的客户使用量激增，但毛利率却急剧下降——从年初的约50%跌至了6月的-50%。

如今，面对成本失衡，Harvey正选择加入越来越多软件企业的行列，倒向开放权重模型生态，其中便包括实力日益精进的中国开源模型方案。相较于美国AI巨头昂贵的闭源专有模型，这些开源架构不仅大幅降低了调用门槛，还赋予了Harvey等企业利用自身私有数据深度定制专属模型的自由度。

拥抱开源模型

据悉，红杉资本和General Catalyst等头部风投机构目前也在力挺这一技术转向。该路径不仅为企业卸下了沉重的成本包袱，更将核心技术控制权从OpenAI和Anthropic的手中夺了回来。而随着OpenAI与Anthropic紧锣密鼓地筹备各自备受瞩目的IPO，初创企业的这股“去巨头化”浪潮，恐将分流这两大巨头可观的商业化营收。

今年8月，Harvey已推出了首款自研模型，其底层由中国大模型开发商月之暗面的Kimi K3驱动。据介绍，该模型在性能上逼近Anthropic旗下的顶配方案，而综合成本仅为其一小部分。据接近该项目的内部人士称，得益于新模型的上线以及对整体AI调用架构的精细化重构，Harvey的毛利率现已成功重回正值。

与此同时，医疗科技初创公司Abridge最近也宣布，正在基于英伟达的开源架构构建一款适用于临床环境的定制基础模型。AI智能客服独角兽Decagon则透露，目前已有80%的咨询通过其自有模型处理。

在金融科技领域，Ramp与Rogo等先锋企业也破天荒地试水自主训练模型；而在编程赛道，刚刚被SpaceX收入囊中的Cursor，以及估值高达480亿美元的Cognition，更是在早期便率先推出了定制化模型。

Ramp联合首席执行官Karim Atiyeh表示，虽然此前模型构建对Ramp来说成本过高，但该公司在6月完成7.5亿美元融资后，正考虑开展相关工作，因为开放权重模型的性能已大幅提升。“一年前这完全说不通。但现在开始变得很有道理了。”

面对持续走高的算力支出，正在筹备新一轮融资的Atiyeh直言，“如果一家公司到现在还不去思考算力成本、不着手做定向优化，那完全是在拿未来冒险。”

算力账单压垮初创企业

Harvey总裁兼联合创始人Gabe Pereyra坦言，直到去年年底，AI应用的性能主要取决于其底层模型。训练这些基础模型是一项极其昂贵的工程，通常由那些最大的AI实验室负责。相比之下，当时训练定制模型的努力意义不大，因此像Harvey这样的公司必须花大价钱购买最好的基础模型。

然而，飞涨的底层API调用开销正将这类应用层企业逼入墙角。

Harvey表示，今年以来其平台的Token消耗量呈几何级暴涨20倍。团队高层深知，如果继续无休止地依赖OpenAI和Anthropic的高价模型，公司迟早会被成本拖垮。

事实上，尽管Anthropic与OpenAI今年也相继上线了走量版的平价模型，但两家公司目前都在基础订阅费之外，对企业的模型使用量额外收费。这一改动让那些推行“Tokenmaxxing”(词元消耗最大化)策略的企业猝不及防。例如，Uber此前极力鼓励内部研发人员敞开使用Anthropic的Claude Code，结果到4月份，全年的AI预算便已被提前耗尽。

“如果不通过微调专属模型来优化单位成本，从本质上讲你的商业模式就算不上高效，”旧金山早期风投机构Basis Set创始人兼管理合伙人Lan Xuezhao断言。她补充道：“如果公司不致力于构建供自身使用的模型，我认为它将难以获得融资。”

目前，Anthropic和OpenAI也更加积极地进军初创企业领域。今年，两家公司都在大力招聘，发布插件，并在法律、金融和医疗保健等行业推出试点项目。

在Anthropic办公室最近举办的一次投资者论坛上，与会者讨论了自主构建模型的初创企业日益兴起这一现象。据一位知情人士透露，Anthropic在一张关于如何“把握价值曲线”的幻灯片中提到了Rogo和医疗健康初创公司OpenEvidence等企业。该公司还提到了Harvey在人工智能领域的内部工作，并提醒道，这家初创公司仍需要依赖Anthropic最先进的模型之一——Claude的Opus——来处理最棘手的任务。

尽管如此，一些初创公司仍担心，如果这些AI巨头切断其访问权限，会发生什么情况。就在SpaceX完成对Cursor的收购仅一周后，OpenAI便宣布暂停这家编程初创公司对其模型的访问权限，理由是马斯克旗下的公司过去曾多次违反OpenAI的服务条款。

相比之下，开放权重模型提供了一种替代方案。OpenAI和Anthropic的封闭式模型将其内部参数严加保密，而开放权重模型则会公开这些参数，供外部开发者下载并进行修改，这一过程被称为“后训练”(Post-training)。

据两位知情人士透露，有些公司——如Kimi K3的开发商月之暗面，甚至会派出自己的工程师，帮助客户将现成的模型微调为定制化的内部模型。

无论如何，从昔日的“寄生巨头”到如今的“自立门户”，Harvey等硅谷初创们的集体倒戈不仅是初创企业应对算力成本危机的自救之举，更标志着生成式AI商业格局的深刻裂变。

随着开源生态与自研方案逐渐抹平顶尖模型的技术鸿沟，应用层企业正在重新掌握议价权与生存命脉。对即将迈入二级市场的OpenAI与Anthropic而言，如何在维持高昂研发支出的同时守住摇摇欲坠的商业客户壁垒，将成为其IPO前夕必须作答的一道关键命题。