Skip to content

第 12 章 一单任务的成本 ​

智能体每执行一单任务,都要现付一笔模型费,账单随用量增长。这笔成本平时并不可见,开发期用测试账号,账单月底才出,等看到数字时,产品往往已经多付了一个月。常见的失败方式是,试点阶段人人叫好,放量后月账单超过月收入,此后砍功能、加限制、降价都难以挽回,原因是从立项起就没算过这笔成本。

本章把一单任务的成本算清楚。12.1 讲价目表与成本结构的读法,12.2 给出一单任务的成本核算公式,12.3 比较四种收费模式并给出选型判据,12.4 讲毛利的三个设计动作与三条降本路径,12.5 用周报任务从模型费算到毛利,把整套计算走完。这门把成本算到一单任务、一个用户头上的学问叫单位经济学(unit economics)。一单挣不挣钱,决定一百单、一万单挣不挣钱;放大不会修正单笔的亏空,只会复制它。阅读本章只需第 2 章的词元概念作铺垫。全章数字一律采用“每百万词元一元”式的示意值,算法真实可用,换上自家账单就能直接使用。

12.1 词元成本的结构 ​

模型服务按三行价目收费,输入一行、输出一行、缓存命中一行。一单任务的成本由三件事决定,价目怎么读、多轮输入怎么累积、圈数怎么估;轮和圈是一回事,第 5 章的回路转一圈就是一轮,两个词下文混用。这三件事合起来,构成产品经理的成本结构读法,也是与研发讨论成本的基础语言。

价目表的结构如下,数字为示意值。

价目行示意单价(每百万词元)定价机制
输入1 元整段文本并行送入模型,一次算完
输出4 元逐词元串行生成,后一个等前一个,占用算力时间长
缓存命中0.1 元服务端识别出前缀上一轮刚计算过,直接复用,只收折扣价

三行单价的差异都来自机制。输出贵在串行生成、占用算力久;缓存命中便宜在前缀复用,智能体每一轮都把之前的内容原样重发,服务端识别出这段前缀,就不重新计算。此外部分厂商把一天分为峰时谷时两个价格,知道这一机制即可,本章算例一律按单一价目计算。表上的具体数字是全书最容易过时的内容,模型价格一年调整多轮,值得记住的是三行结构和每行的机制;正式算成本前,先查当期官方价目页,把示意值换成实价,算例本身一个字不用改。

输入成本逐轮累积,机制是模型服务不保存对话,每一轮都把之前的完整历史重发一遍。用示意数字来看,系统提示加工具说明构成 3000 词元的固定开头,每一轮新增 2000 词元的本轮问题与工具结果,第一轮发送 5000,第二轮 7000,第三轮 9000,第五轮 13000,五轮合计 45000 词元,其中一多半是重发的旧内容。轮数翻倍,输入不止翻倍,成本增长快于线性。

圈数无法事先确定,只能实测出区间。周报归因任务顺利时三圈收尾,平均五圈,难周八圈;带条件触发的步骤按触发概率摊进平均圈数,例如数字校验每轮必跑,深挖复核只在难周运行。圈数之外还有一个输出端的放大因素,推理模型把思考过程写出来再作答,写出的每个字都按输出计费,一轮下来输出成本可能翻几倍。什么任务值得想透再答,本身就是成本决策,12.4 展开这一权衡。与研发讨论成本时,问“调一次多少钱”没有意义,一次调用的长度差异很大;该问的是一单任务平均几圈、最差几圈、每圈消耗多少输入和输出。

同一张价目表下,一单任务的成本还取决于任务本身消耗哪一行。归因类任务消耗输入,三张报表的明细、检索取回的资料都要进入上下文,输入词元动辄几万,输出只是几千字的结论;成文类任务消耗输出,两千字的周报初稿按一千汉字折合一千五到两千词元的口径,仅输出就有三四千词元,对应的是贵的那一行单价。任务轻重造成的成本差距可达一两个数量级,简单问答一单按分计,多步骤协作出一份报告按元计(口径见本章参考资料)。由此得到一条判断,比较两个模型谁便宜时,只看标称输入单价一定算错,这是最容易犯的错,正确做法是拿自家任务的输入输出构成去乘三行价目;研发提议换模型时,该问的是这单任务换过去之后,输入输出各摊多少、各乘哪个价。

把周报归因任务的画像代入,输入合计 45000 词元、输出 2500 词元,按示意价目,输入行摊 0.045 元、输出行摊 0.01 元,八成以上成本压在输入行。既然八成成本集中在一行,优化就应该从这一行入手,控制资料长度、保持前缀稳定,比换一个输出便宜的模型更有效;这一判断直接决定 12.4 选择哪条降本路径。

价目三行、逐轮累积、圈数不定,三者画在图 12-1 里,合成产品经理的成本三问,适用于任何成本讨论。

图 12-1 词元成本结构:三行价目、逐轮变沉的输入、事先说不死的圈数

  1. 这一单任务消耗输入还是输出?
  2. 平均几圈、最差几圈?
  3. 哪部分前缀能命中缓存?

需求评审会的成本栏可以用这三问作为格式。新功能的成本栏答得出三问,这个功能的成本就立了一半;一问三不知,先不要争论做不做,让研发拿评测任务集跑十遍再回来讨论。

12.2 一单任务的成本核算 ​

一单任务的模型费,等于各轮输入合计乘输入单价,加上各轮输出合计乘输出单价。粗算版用平均数,平均圈数乘每圈平均输入、平均输出,再各乘单价。公式不难,难的是公式里每个数从哪里来、波动如何处理,这一节一并给出。

代入周报归因任务的画像,固定开头 3000 词元、每轮新增 2000、每轮输出 500、平均五圈收尾。输入合计就是 12.1 算过的 45000 词元,输出合计是五轮乘 500,即 2500 词元;按示意价目,输入 45000 词元乘 1 元每百万是 0.045 元,输出 2500 词元乘 4 元每百万是 0.01 元,合计 0.055 元。一份周报的模型费,五分半。

这些数字来自实测,不是估算。每次调用模型,服务端的返回都带有这一次的输入输出词元数,研发可以直接记录;现成的测量装置是第 11 章的评测任务集,二十六份历史周报作为测试题,每跑一份记录圈数、输入、输出,质量考核装置同时充当成本测量样本。这里有一条纪律,量成本必须用真实任务,演示任务经过挑选,圈数偏低、资料偏短,量出的成本系统性地偏低。

产品经理的产出物是每类任务一行成本画像,共九个字段,后续三节都以它为输入。

字段用途
任务名、每周频次任务身份与放大倍数
平均圈数、最差圈数日常记录与预算两个口径的来源
平均输入词元、平均输出词元乘价目的基数
单份模型费、人审分钟数变动成本两行
备注口径与例外

画像自带波动的答案。按同一套画像,顺利三圈的周报模型费 0.027 元;难周八圈,输入合计 96000 词元、输出 4000,模型费 0.112 元。同一份周报,难周比顺利周贵四倍以上,因此成本要按两个口径记录,日常记录用平均数,做预算用最差值;月底对不上预算,多半是难周占比超出预期。厂商调价是常态,价目一变,历史成本要按新价目重算再做月度对比,否则两个月的数据放在同一张表上,比较的其实是两套价格。

公式连同周报的代入算例,画在图 12-2 里。

图 12-2 一单任务的成本公式:模型费按圈数乘词元乘价目,人审和固定投入另立两行

五分半看似很小,但这笔成本必须算,频次会把小数放大成大数。店长问答这类轻任务,单次模型费示意按 0.02 元计算,三家店的规模下每周几十次,支出几乎察觉不到;铺到一千家店、一天一万次,一天就是 200 元,一年七万出头,相当于一个人的工资。反过来看,周报一周一份属于低频任务,模型费在总成本中的占比始终很小,这类任务真正的成本大头在别处。

完整成本要把成本项列全,模型费只是第一行,后面至少还有三行。人审是最大的一行,核对初稿占用人工时,工时乘时薪直接进成本,15 分钟也是钱,12.5 逐行算出。重试是第二行,智能体必然出错,失败那一单的模型费白付,重跑再付一遍;八成的成功率意味着平均一单要跑一点二五次,速算式就是单次成本除以成功率,0.055 元的单次成本要按 0.069 元计。这一行与质量相连,错误分类决定处置方式、处置越重这一行越大,第 10 章讲过。外围设施是第三行,检索要查向量库、工具要调外部接口、会话要存历史,这些按次计费的小额支出在简单任务里不起眼,在复杂任务里合计常超过模型费本身(口径见本章参考资料)。

把成本项列全的目的只有一个,找出成本占比最高的一项,而哪一项最高取决于任务的形态。高频轻任务的大头在模型费,份数把它放大;低频重任务的大头在人审和固定摊销,模型费连零头都不到;多步骤协作的复杂任务,外围设施可能反超模型费。不要预判,逐项列出、计算一遍,占比最高的一项自然显现。

成本画像还有一个与降本无关的日常用途,诊断用量异常。某个星期模型费突然翻倍,先不要归因于厂商调价,翻画像看圈数;圈数暴涨,九成是输入内容出了问题,上游数据变脏、接口返回格式变化、检索取回的段落变长,模型在反复做无用功。成本曲线异常上涨,多半是别处先出了问题,第 15 章可观测性一节会把这张表挂上看板。

12.3 卖调用量还是卖任务 ​

市面上的收费方式有四种,订阅、计量计费、按结果付费、结果即服务。四种模式的差别集中在一件事上,用量风险归谁。以下逐一看每种模式适合谁、风险在哪,最后给出选型判据。

订阅制下,客户每月支付固定费用,用多用少一个价。这种模式对客户最有吸引力,支出可预期;代价是用量风险全部压在厂商一侧。传统软件敢这样定价,原因在于边际成本近乎为零;智能体不具备这个条件,每一单都现付模型费和人审费,成本随用量线性增长,订阅价锁定了收入,成本照样往上走。实践里常见的失败有两种,重度档用户吃掉的成本份额远超其贡献的收入份额;以及把高成本功能免费塞进低价套餐,每次运行成本按元计的功能,包含在按月计的套餐里,运行几次就耗尽月费(口径见本章参考资料)。因此智能体产品的订阅几乎都要配套额,档位限制用量、超出降级或加购、条款写明公平使用。配额的刻度要用客户理解的业务单位,按门店数定档、按月度份数给配额,超出加购就顺理成章。适合订阅制的任务有共同点,频次稳定、用途收敛、用户之间用量方差小,统一定价才有依据。

计量计费按实际用量收费,按调用量或词元数结算,模型厂商向产品团队收费用的就是这一种。这种模式对厂商最安全,成本涨收入跟着涨,毛利稳定;用量风险转给了客户。它适合看得懂词元账单、会做用量规划的平台和开发者;业务客户普遍不接受这种账单,客户想买的是一份周报,不是一个词元,看不懂计量单位的账单难以放心支付。面向开发者的产品常有变通做法,把计量打包成配额出售,一万次调用一个包,用完再买,单位从词元换成调用次数,客户能够计数,本质上仍是计量。产品经理必须理解这种模式,因为产品团队自己就是它的客户,模型厂商的账单用的就是这套口径,12.1、12.2 讲的就是怎么读它。

按结果付费对软件来说是新选项。这种收法本身不新,外包计件、按效果结算的广告早就在用,软件这门生意却一直用不上,原因在交付物,传统软件出售的是功能使用权,报表工具按导出次数收费,次数只是动作计数,客户用不用、导出了什么、导出得好不好,工具不管,也管不了,因此无法按结果收费;智能体第一次让“结果”成为可交付的东西,周报发出去了、工单关掉了、差旅订好了,任务完成、可数、可验收,软件产品才用得上这种收法。这也是四种模式里激励最顺的一种,客户按做成的一单付一单的钱,卖方跑三轮还是八轮、用旗舰还是小模型,客户不关心,成本优化的收益全部归卖方,越会省钱,赚得越多。它的硬前提是完成定义事先写得清楚,写不清楚,收款就会陷入争议;而写得清楚,靠的正是第 7 章的验收标准和第 11 章的评测体系,裁判是谁、判据是什么、抽检怎么抽,这些为研发验收建立的设施直接转化为收款条款,没有这两章的基础,按结果付费无法开展。它的风险在半成品,任务做到一半算不算完成、初稿可用但未通过核对收不收费,防法是把完成定义分档,初稿可用一档价、署名发出一档价,写进合同;出现争议时,按第 11 章现成的裁判规则裁决,任务集当判例、人工抽检当复核。

结果即服务(Result as a Service,RaaS),按结果付费的长期合同版本。卖的东西从一单一单的任务,换成了一整个岗位的产出,客户按月付费,厂商承诺交付一批成果,附带运维、迭代、保障,相当于把智能体当作数字员工出租。它的定价参照最硬,所替代的人力工时就是价格上限的天然基准,周报归因每周一个半工作日折算的工时成本,就是周报岗位对价的起点。它的风险也在“员工”二字上,客户会按对员工的要求来要求它,加活、催活、要求随叫随到。合同至少要写明四条。

  1. 交付物清单逐项列明,不包含的写明不包含。
  2. 交付节奏固定,每周几份、几点前交付。
  3. 口径调整算维护,新增分析算加购。
  4. 出错后的赔付方式,返工还是折抵。

写不清边界的 RaaS,会从赚钱的生意变成赔钱的客服。

四种模式的对照画在图 12-3 里。选择时依次回答三个问题。

图 12-3 定价四模式:客户买什么、用量风险归谁、适合什么任务

  1. 任务可数吗?一份周报、一张关闭的工单,数得出来,按结果收得动;“帮你更好地决策”这类数不出来的,只能订阅。
  2. 用量方差大吗?客户之间用量差别大,重度用户会吃掉无配额订阅的毛利,要么计量,要么订阅加配额。
  3. 客户为什么付钱?客户买的始终是办完的事,不是调用次数,收费方式离这件事越近,销售话术越短。

选型不是终身制。新产品常先按结果试水,客户按期对账、攒下信任,再转为订阅打底、按结果计增量,两种混着收。模式确定后,12.2 那页成本画像就从内部成本清单变成对账单,按结果收费的产品,每份收入对着每份成本,毛利当场可以算出;这也是成本侧要先把成本算清的原因,收费方式选得再巧,底下的成本数字是糊的,毛利就永远是估的。

12.4 成本跟着用量涨,毛利要靠设计 ​

毛利是收入减去变动成本,毛利率是两者的比值。传统软件的规模优势在智能体身上不成立,用户增长十倍,服务器只增加一点,毛利自动变厚;智能体每一单现付模型费加人审费,用户增长十倍,变动成本跟着增长十倍,放量不会自动改善毛利,反而常常把它压薄。毛利要靠设计,三个设计动作加三条降本路径,每一项的控制权都至少有一半在产品经理手里。

测试期和放量期,成本是两回事。测试期的流量来自研发自己,任务短、轮数少;进入生产环境,真实用户的用法把用量结构整个换掉。一个测试期每天几十块钱的客服智能体,进入生产、流量铺开后,日成本涨到几千元,这种跳变来自结构,算不上事故(口径见本章参考资料)。第 6 章放量门上测成本的那一条,问的就是成本是否随用量可预测地增长;涨得可预测,放量才是经营,涨得没数,放量就是赌博。

设计拆成三个动作。第一个动作,计价单位对齐成本单位,按份收费的产品,成本必须也按份核算;走订阅的产品,用配额守住毛利,没有配额的订阅,等于把成本控制权交到用户手里。第二个动作,把人审算进变动成本,核对一单占多少分钟、时薪多少、人审率百分之多少,三个数相乘得出每单的人审成本,与模型费并排立一行;把人审当作“运营的事”不计进成本的团队,毛利就是这样虚增的。第三个动作,安排固定投入的摊销节奏,开发、评测集、数据接入是一次性投入,持续评测和提示词迭代是每月支出,两类固定成本除以放量后的份数,才知道每份分摊多少。三个动作合起来,毛利模型就成立了,每份收入,减每份变动成本,再摊每份固定成本,盈亏一目了然。

设计之外还有降本,三条常规路径画在图 12-4 里。

图 12-4 省钱三路:瘦身把五轮输入合计 45000 词元降到 33000,缓存把输入费 0.045 元压到 0.016,小模型打底把轻活交小档,三条路都有一半开关在产品手里

第一条是提示词瘦身。长资料进入上下文就是成本,给模型的资料多长是设计决策。归因任务每轮新增的 2000 词元里,检索从“整段报表”改为“只取相关行”,每轮新增降到 1200,五轮输入合计就从 45000 降到 33000,单份模型费从 0.055 元降到 0.043 元,节省两成。两成在高频任务里就是可观的成本,一天一万次的任务,单次省 0.012 元,一天省 120 元,一年四万多。这条路径的控制权在产品手里,给模型的资料清单是产品定义的一部分,哪段资料对答案有贡献、哪段是求稳妥而冗余加入的,在评测集上跑一遍对照就能知道。

第二条是缓存,命中价一折。命中的前提是前缀逐字一致,因此提示组装有一条纪律,不变的内容排在前面,系统提示和工具说明放最前,用户消息、检索结果、带时间戳的字段放在后面;前缀一旦变动,缓存作废重算。收益可以算出来,还是五轮的周报任务,第一轮整段 5000 词元未命中,之后各轮只有新增的 2000 词元按全价、旧内容全部命中,未命中 13000、命中 32000,输入费从 0.045 元压到 0.016 元,单份总成本 0.026 元,节省一半。命中率与提示构成直接相关,以固定系统提示为主的产品,复用可达八成上下;提示高度动态的,复用只剩三成(口径见本章参考资料)。这对产品多一层含义,每修改一次系统提示,缓存前缀整条作废,修改频繁的产品,缓存收益归零。保持提示词稳定、把动态内容后置,这是产品决策,不只是工程习惯。

第三条是小模型打底。一单任务里的每一步,不必都用同一个模型,取数、对数、排版这类确定性高的轻活,交给小档模型运行,归因、判断这类难活留给旗舰模型。交不交的唯一标准,是评测证明这一步小模型做得对;失败率高的便宜档,重试加返工摊下来,未必比一次做对的贵档省钱,只看单价会得出相反的结论。第 5 章讲过的推理模型也在这条路径上,推理模型把思考过程写出来再作答,想得多答得慢,思考的每个字都按输出计费;日常问答想一步就走,月度复盘才值得想透再答,这一档位分配是产品决策。分档不必一步到位,先用关键词分流,简单问题走轻档,带纠纷、赔付这类字眼的走旗舰档,规则不够用时,再引入小模型充当分类器。需要注意一点,分档判错比不分档更伤,复杂任务错给了轻档,节省的成本会以质量损失的形式偿还,因此路由规则要进评测任务集,与其他行为一同考核。三档模型怎么组合、怎么路由,第 13 章正面展开,案例线 13.5 会把本章这套成本再优化一遍。

三条路径没有一条是纯工程活,瘦身删的是产品的资料清单,缓存靠产品的版本纪律,档位是产品的分配决策。三条之外还有第零条,需求本身,4.4 粗算拦下来的场景,一分钱都不用花,节省得最彻底。

最后补上放量决策里最容易漏看的一项,核对队列。系统的吞吐按秒计,人的吞吐按小时计,核对一单 15 分钟,一周一百单就是 25 小时,超出一名核对员的满负荷工作量。人审工时随份数线性增长,涨到某个量级,它就从成本行变成容量瓶颈,成本表上有它,排班表上也有它。出路是分档,影子期积累的信任记录,换成分级人审的依据,低风险批次抽检、高风险逐条过,第 8 章的自主度档位表管的就是这件事,哪类动作绝不放行的边界,第 14 章划定。另一条出路是把核对环节设计到客户侧,各片区的运营自己核对,15 分钟从产品的变动成本,变成客户价值故事的一部分,客户买到的是“有人把关的周报”,把关的是自己的员工。人审率从此是一个产品指标,每单摊的人审分钟数,纳入 15.2 的护栏。

12.5 【案例线进七】一份周报的成本 ​

这一节把前四节的工具在周报任务上完整用一遍,从第一次模型调用算到定价、毛利、放量。先重申案例线的规矩,品牌虚构、人物化名、数字全部为示意值,但每一行的算法都是真的,换上任何一家真实门店的数字就能使用。

第一行,模型费。12.2 已经算过,归因任务平均五圈,输入合计 45000 词元、输出 2500 词元,按示意价目全价计算,0.055 元。数字的来历交代清楚,以便这份成本可以复算,圈数和词元是二十六份历史周报在评测集上跑出的画像,价目是示意的。这里刻意按全价计成本,12.4 三条降本路径能降的先不降,保守口径先把成本算足,实际运行时这一行只会更小。

第二行,人审费。4.6 的规则很明确,周报发出前必须经过小周核对,通读结论、抽几个数字对后台、改两处措辞、确认可发,按 15 分钟计,时薪按 60 元折算,这一行是 15 元,是模型费的 270 多倍。4.4 粗算点破过的漏洞在这里有了实数,核对占用的是运营部门的时间,不是研发部门的,但都是公司的工时,必须一起算进成本。影子期的核对更贵,小周要双份对照,智能体写的和自己写的并排比较,一份初稿核对需要半个钟头,影子期这一行按 30 元记。这笔翻倍的支出不是浪费,换的是放行依据;影子期几周一过,这一行就回到 15 元的稳态。

第三、四行,固定投入。一次性投入示意按 5 万元计,细分为三块,链路开发加两支提示词的打磨约 3 万,二十六份历史周报评测集的建设约 1 万,三个后台的数据接入约 1 万,按两年 104 周摊销,每周约 480 元。持续运维再立一行,持续评测、坏案例回流、提示词迭代、数据管道维护,示意按每月 1500 元,每周约 350 元。固定两行合计每周 830 元。

四行摆齐,试点期一份周报的全成本约 845 元,模型费 0.055 元、人审 15 元、固定 830 元。对照价值一侧,小周原来每周归因全程 12 小时,乘 60 元时薪是 720 元。845 对 720,试点期这份成本怎么算都是亏的,而且亏得有明确原因,830 元的固定投入占掉成本的 98%,三家店一周一份的产量,摊不平这笔投入。频次不高的任务摊不平固定投入;试点期算的是验证期的成本与价值,验证概念是否成立、验收能否通过,单位经济学的成败要等放量后再看。试点期与放量后的两份成本,画在图 12-5 里。

图 12-5 周报成本瀑布:试点期一份的全成本与放量后每份的成本、定价与毛利

放量到一百家门店的规模,门店按片区管理,一个片区十来家店,周报一家店一周一份,一周一百份,核对签发归各片区的运营。变动成本随份数增长,模型费加人审每份 15.055 元,一百份每周 1506 元;固定投入示意按不变计,每周仍为 830 元,实际放量时运维一定会涨,这笔重估留在放量门上。合计每周约 2336 元,摊到每份,全成本 23.4 元。成本结构整个翻转,试点期固定占 98%,放量后变动占六成五;变动里,人审 15 元占每份成本的六成四,模型费 0.055 元占千分之二,占比最高的一项不在模型,在核对。

接下来定价,锚有三个。成本 23.4 元是下限,低于它就是卖一单亏一单;价值是上限,客户侧一份周报背后是 720 元的工时对价,扣除 15 分钟核对后净省 705 元;市场对照看同行,外包一个分析师半天是什么价格,据此形成判断。示意定价每份 60 元,客户按月折算约 260 元,对应每周净省的七百多元,这笔得失客户很容易算清;60 元不到价值的一成,议价空间充足。厂商一侧,毛利每份 60 减 23.4 等于 36.6 元,毛利率 61%。再算回本点,固定投入每周 830 元,每份扣掉变动成本还剩 44.9 元(60 减去变动 15.055),830 除以 44.9 约等于 18.5,每周做到第 19 份,固定成本就有人买单,此后每多一份,净赚 44.9 元。换算成月度更直观,一周一百份,月收入约 2.6 万,月成本约 1 万,月毛利约 1.6 万。三个数都算得出来,这门生意放量后的单位经济结构是健康的;健康不靠感觉,靠的是每个数字都经得起复算。

健康的结构里埋着 12.4 末尾说的瓶颈,这里有了实数,一百份乘每份 15 分钟,每周 25 小时的核对工时。问题不在钱,在人力,25 小时意味着需要将近专人负责核对,而且这个数随份数线性增长,两百份就是两个半人。出路是分档,影子期和试点期积累的信任记录正是分档的依据,数据干净、归因稳定的片区降为抽检,出过异常的片区全检,新片区过渡期全检。用示意数字计算,低风险片区抽三成,人审工时从每周 25 小时降到 7.5 小时,每份人审成本从 15 元降到 4.5 元,每份全成本从 23.4 元降到约 12.9 元,毛利率从六成提到近八成。每周节省一千元上下不算小数,但这一方案真正解决的是容量,7.5 小时在正常排班范围内,25 小时超出。分档有一条底线不能碰,涉及财务口径和合规表述的结论,无论信任记录多好都不进抽检,永远全检,这条边界第 14 章划定,案例线 14.5 落地。

这份成本最后接回主线。6.4 放量决策那一页有四个空,其中测成本的那一栏,问的是一份产出的全成本算不算得平;这一节给出的就是填法,模型费按圈数乘词元乘价目,人审按工时乘时薪,固定按摊销周期除以份数,三行加出全成本,再对着价值定价格、对着价格算毛利、对着毛利找占比最高的一项。本章全部数字按一张价目表计算,第 13 章把一张表换成三档模型的组合,这套成本还能再优化一遍。

本章小结 ​

  • 12.1 成本结构读法。价目表三行,输入、输出、缓存命中,输出贵在串行生成,命中便宜在前缀复用;输入逐轮累积,圈数事先无法确定。成本三问,消耗哪行、几圈、命中多少。
  • 12.2 任务级核算。一单模型费等于各轮输入乘输入价加输出乘输出价,数字从评测任务集实测得出,平均数供日常记录、最差值做预算;完整成本四行,人审、重试(除以成功率)、外围设施都在,频次把小数放大成大数。
  • 12.3 定价四模式。订阅、计量、按结果、结果即服务,差别在用量风险归谁;按结果付费的收法不新,新在软件第一次用得上,结果可数可验收,前提是第 7 章的标准和第 11 章的评测经得起核对。
  • 12.4 毛利与降本。成本随用量线性增长,放量不自动改善毛利;三个设计动作(计价对齐、人审计入、摊销节奏)加三条降本路径(瘦身、缓存、小模型打底),控制权一半在产品手里。
  • 12.5 周报的全成本。试点期一份 845 元,固定占 98%;放量后每份 23.4 元,人审占六成四;定价 60 元,毛利率 61%,每周第 19 份回本;先出问题的不在模型费,在核对队列。

本章的结论一句话,智能体产品卖一单、付一单,想谈规模,先得把成本算清。模型费、人审、摊销这三行,没有一行是财务专属,每一行的控制权都至少有一半在产品经理手里,资料清单、提示词版本、模型档位、人审档位、定价模式,全是产品决策。下一章把价目表本身换成决策题,模型和供应商怎么选、怎么换、怎么留退路。

试一试 ​

  1. 拿自己的产品(没有就用案例线的周报)计算一单任务的全成本:模型费按圈数乘输入输出乘单价,人审按工时乘时薪,固定投入按摊销周期除以每周份数,三行加总。算完标出占比最高的一项,它就是下一步最该推动的事,大头在模型就查资料清单和档位,大头在人审就查分级审核,大头在摊销就查放量节奏。
  2. 让研发把评测任务集里的任务各跑十遍,记录每遍的圈数、输入词元、输出词元,得出平均和最差两个口径,看两者差几倍。差超过三倍,说明用量结构还没摸透,预算要按最差值立。
  3. 给这单任务过 12.3 的三问:任务可数吗,用量方差大吗,客户为什么付钱。选定一种定价模式,然后写出完成定义:什么算交付、半成品按哪档计、争议找谁裁决。
  4. 把成本外推两档:用量十倍和一百倍时,固定摊到每份多少、人审工时每周多少小时。人审小时数除以一个人的周工时,超过一半就该设计分档方案了。

参考资料 ​

  • 《Building and Distributing Agentic AI》(Julian Soh 等,Apress 2026)第 2 章(成本与定价:token 是与模型服务的交易货币,提示词与补全词元分开计价;会话场景下每个后续请求都包含此前问过的内容,词元逐轮递增;各用例的词元构成估算;多智能体协作把词元消耗显著放大;缓存输入词元机制;按词元计费与预配算力两种模式;把用户采纳增长与词元消耗合在一起建模),见 txt-ref-zh/building-distributing-agentic-ai/07-Chapter 2 Cost and Pricing.md(中译)
  • 《Agentic AI For Dummies》(Pam Baker,Wiley 2026)第 9 章(经济影响:生成式 AI 的投资回报兑现普遍慢于预期,智能体把产出接到行动上,使回报更可落地;高结构环境里数周就能见回报,长期回报集中在风险与合规类场景;任务与岗位之分、人与智能体的分工逻辑),见 txt/agentic-ai-for-dummies.txt(英文原文,第 9 章行 5780-5900)
  • 《GenAI on Google Cloud》(Ayo Adedeji、Lavi Nigam、Sarita A. Joshi、Stephanie Gervasi,O'Reilly 2026)第 7 章(生产成本管理:真实成本模型:直接模型费之外,间接基础设施成本常超过直接费,重试、冗余调用、低效路由是隐藏成本;测试期日成本几十美元的客服智能体放量后日成本数千美元;简单问答按分计、多智能体协作的报告生成按元计;重度档用户成本份额远超收入份额、高成本功能包进低价月费不可持续),见 txt/genai-google-cloud.txt(英文原文,第 7 章行 9140-9215)
  • 《悟道智能体开发》(本书工程姊妹卷)第 1 章 1.3 节(输入与输出分价的机制原因:预填充并行、解码串行;缓存命中价与未命中价分列;时段计价的存在;多轮会话逐轮重发前缀的账),本章 12.1 的知识底本,产品向转述,工程深挖按该书对应章指引
  • 《悟道智能体开发》第 14 章 14.2 节(成本工程:带条件分支的步骤按触发概率摊派调用量;按正确完成的任务计成本、失败率高的便宜模型未必便宜;人的时间进成本公式;人工审批的吞吐按小时计、容量照人规划;前缀缓存命中率靠“不变内容排前”的提示组装纪律经营;小模型路由的成本量级),本章 12.2 与 12.4 的知识底本,产品向转述,工程深挖按该书对应章指引