第 13 章 模型与供应商策略

模型直接承担智能体产品里最核心的判断与生成，回答是否正确、响应快慢、单次花多少钱，用户每次使用都能感知；换一版模型，同一个问题的答法就变，产品行为跟着变，模型与供应商的选择因此是产品决策，四个维度都有产品经理要操心的事。13.1 立选型四维判据与过线次序，13.2 给换型的四种信号与三道门流程，13.3 讲多供应商设计与国产化三层约束，13.4 划自研与外购的四档阶梯，13.5 案例线为三个功能配齐三档模型组合并重算成本。

13.1 选型的产品判据

选型的产品判据有四个维度，合规、能力、成本、延迟，次序固定，合规是门槛、一票否决，能力是及格线，成本和延迟是及格之后再比较的优化项。常见做法里有两种错误，一种拿榜单定档，新榜单一发布，排第一的名字就进方案；另一种在预算范围内挑最贵的，求心理上的稳妥。两种错误犯的是同一个毛病，能力都没有拿自家任务验过，榜单测的是出题人手里的任务，产品要跑的是自家回路，两边考察的内容不一样；贵也不等于合适，大模型通识广、推理强，产品里的高频小问题用不上这份能力，账单却照高价开（工程姊妹卷对大小模型取舍的完整对照见其第 1 章，口径见本章参考资料）。

合规先看，因为它不是权衡项。别的三维回答“好不好”，合规回答“能不能”，数据按合同和监管能不能发给这家服务商，行业有没有属地要求，政企客户的采购目录是不是指定服务必须在本国本域提供。中文语境里这条线更常听到的叫法是国产化要求，拆开是三层约束，一层比一层硬。

1. 采购偏好。最软的一层，客户目录里列了谁家，没列的进不了采购流程。
2. 数据不出域。金融、医疗这类行业，监管要求数据留在自己的机房或指定的境内环境。
3. 私有部署。最硬的一层，模型要跑在客户或自己可控的硬件里，服务商无法接触；只有把模型权重开放出来的厂商才进得了候选，权重开不开放就此成为分水岭。

三层约束逐层收窄可选的范围。合规这一维的用法与其他三维不同，它一票否决，过不了线的，能力再强、价格再好，直接出局，不再进入后续比较。哪些数据属于不能出的域、监管口径的具体内容，第 14 章用清单正面讲，本节的次序是先过线再谈其他。

能力第二看，量法只有一个，拿自家的任务集跑分。第 2 章讲过能力是参差的，一道题定不了能力，要拿一批真实任务批量测，统计通过比例；第 11 章的评测任务集就是那批带标准答案的真实任务。到了选型，操作分两半。研发负责跑，把候选的两三家各跑一遍同一套任务集，记录三列数，通过率、延迟、单条成本；这个十几条任务的小评测，工程侧有现成的最小评测器，改两处配置就能换一家再跑（做法见姊妹卷第 3 章）。产品经理负责出题，任务集里检索取回的题占几道、工具调用的题占几道、该拒答的题占几道，按自家功能的构成配置，不能用通用题库代替。成绩单的读法是总分要比、分项更要比，参差意味着各家强弱项不齐，甲家归因题稳、取数题慢，乙家正相反，总分持平的两家，分项一拉开，哪一家跟自家产品更配就能看清。自己跑出来的成绩单，比任何评测文章的转述都可靠。

成本第三看，问法要从“哪家便宜”换成“这个功能的任务画像配哪一档”。第 4 章立过任务画像的尺子，频次多高、步骤多重、错误多大。同一家服务商内部通常就有从轻到重的几档模型，档位之间价差很大，第 12 章算过的输入输出差价、缓存折扣这些计价结构，每一档都各有一套，算哪一档的成本，那套口径都照用。成本维的第一个动作因此是先给功能分档，再比厂商。高频又轻的任务，分类、抽取、简单取数，配廉价档，单次成本压得很低；低频又重的任务，多步推理、长材料分析，配主力档。降档的最大空间在高频功能里，单次省一小截，乘上每天的次数就是一大截，用第 12 章的单位成本口径可以直接算。常见的问题正出在这里，最该降档的高频功能常年压在主力档上，月底拉账单才发现。

延迟最后看，每个功能有自己的延迟预算。第 5 章词汇表里有两个词在这里用得上，首 token 延迟决定用户觉得快不快，流式输出让答案逐字送到屏幕。体验研究给过一组参考口径，百毫秒内的响应感觉是即时的，超过十秒开始损害体验（口径见本章参考资料）。不同功能的预算差别很大，案例线里老陈在日报页问一句，人就在屏幕前等，预算以秒计；小周的深挖对话可以接受答案逐字出来；周报是后台凌晨跑的，慢一分钟没有影响。延迟维的产品动作是给每个功能定预算，再按预算选档，同一家的轻档通常响应快，重档慢而强，快慢的原因在参数规模，轻档参数少，同样的请求计算量小，出字就快，预算紧的功能天然往轻档靠。这里的“档位”指模型的高低配，与第 8 章自主度谱系的 L0 到 L4 不是一根轴，后者管放权程度，本章管模型供给。

四个维度互相牵制，轻档通常又便宜又快，能力弱一截。成本和延迟常常同向，与能力反向，全部选用轻档，成本立刻下降，产品能力逐渐变弱，所以次序是先让能力过及格线，再在过线的档位里挑便宜快的。降档还有一笔不对称的代价，省下的钱当天看得见，降掉的能力要等用户碰上才发现，划算与否无法凭直觉判断，要走一套流程，这套流程在 13.2 展开。四维的次序收拢为一句话，合规是门槛，能力是及格线，成本和延迟是优化项，先比价钱再验能力，等于拿用户当测试样本。跑分接近时，这次序还提供一条裁决规则，给锁入更深的那家减分，这条规则的依据在 13.3 展开。最后是口径，具体型号和价格变化很快，本书通篇用主力档、廉价档这样的档位说法，不落型号名与单价，选型时以各家官方文档为准，截至 2026 年 9 月。

13.2 换型的风险与节奏

换型有固定的启动条件，只在四种信号出现时启动，启动后走三道门，每一步都能回退。选型定下的是当期最优，不是终身选择，模型市场几个月一变，新版本发布、价格重排、服务商调整产品线，当期的最优解有保质期，换型因此要当作一项产品能力来建设。

换模型等于换产品行为。产品里做判断、做生成的就是模型，换一版模型，同一个问题答法就变，用户感知到的产品跟着变，模型层的变化会穿透整个系统。往好处走有现成案例，一个数据可视化研究系统把底座换成更便宜的新一代模型，错误率从两成降到百分之三，系统架构一行没动（口径见本章参考资料）。往坏处走也不罕见，深度调优过的提示词是与旧模型一轮轮磨合出来的，新模型没有参与过这份磨合，换完通过率反而下降。工程侧对此有一个结论，锁入主要来自那份长了好几页的提示资产，接口算不上主因（口径见本章参考资料）。换型因此不是改一处配置那么轻，提示资产要跟着重新调，产品行为要重新验。

值得启动换型的信号有四种，每一种都要有凭据。

1. 成本变了。价格重排或用量上涨，成本把第 12 章算过的毛利线越吃越薄，降档或换家能拉回来。
2. 能力到顶。评测通过率停在一个无法再提高的位置，提示词和检索都调过了还在那里，更强的模型或更新的版本可能突破这个上限。
3. 供应风险。服务商事故变多、老版本出现停服信号、合同条款要变。有现成先例，一家平台的接口从公告废弃到正式关停只留了一年缓冲，期限内没迁完的调用直接失效（口径见本章参考资料）；产品的可用性挂在别人的一次公告上，这本身就是风险。
4. 合规变了。客户结构变化带来新的属地或数据要求。

四种之外都不算信号，“出了新版本”本身不是，没有量化目标的换型，等于白付一遍回归和重调的成本。反过来说，正因为知道会换，模型选择从第一天起就该显式记录、标注为临时的，原型阶段选够用的档位，把成本、延迟、质量跑出基线（口径见本章参考资料），架构为将来的更换留好接口，这些准备让“临时”这个标注有了实际内容。

换型启动后走三道门。三道门的核心是回归评测，第 5 章词汇表给过定义，改完把老任务重新测一遍，确认没把原来对的改坏；换型的回归比日常改动的回归更重，三道门依次如下。

1. 触发确认。把换型的理由和目标写成数字，成本要降多少、通过率要提多少、要解除哪个供应风险，没有数字就没有验收，换完说不清成败。这道门还有一个组织动作，换型是产品决策，评审桌上要凑齐三方，产品经理带目标和回归结果，工程带迁移成本和适配工作量，有新供应商进场时再由法务过一遍 13.1 的合规线；只有产品一方，容易低估迁移的工作量，只有工程一方，容易只看技术新旧，不算成本。
2. 全量回归。任务集整套重测，新旧两版成绩并排。总分不掉还不够，要看分项，拿周报产品举例，总分持平、取数题全对，该拒答的题掉了一半，说明新模型比旧的更爱硬答；这类掉分在总分里只占几分，放到产品里就是第 10 章讲的第四类失败，没有任何提示的失败，最危险。分项掉了先不要判定失败，换型后提示词要重新调优，多数掉分在这一步能拉回来，调完再测，还不行就判这次换型不成立。判不成立也有价值，它说明当期配置仍是最优，这个结论写进决策记录，避免半年后同一件事再议一遍。这道门还要接上第 6 章的一条纪律，一次进一处，模型和提示词不要捆着换，掉了分说不清原因在哪，先换模型看裸成绩，再调提示词看适配后的成绩，两步分开走。
3. 灰度。全量回归通过只是离线评测通过，还要过真实流量。先影子期，新旧并跑、只比不发；再小比例放量。灰度阶段没有标准答案可对，盯的是代理信号，用户驳回有没有变多、同一个问题反复追问有没有变多、转人工有没有变多，这三样都是通过率在真实流量里的代理，第 15 章的度量体系正面讲这些指标怎么摆。线上指标稳了再全量切换。切换动作本身要轻，模型名收在配置里，改一处生效，回滚开关留着，出了异常一键回旧档。

复评的节奏有两种排法，可以并用。定期一次，每个季度把在用的档位和备选过一遍四维；触发一次，上面那四种信号任何一个出现，当场重评。换型要当产品发版对待，走评审、留记录，决策记录带上截至日期和依据的官方页，今天的选型结论有保质期，过期作废重核（口径见本章参考资料）。排期上避开业务高峰，案例线里周报周一凌晨跑，换型就排周中；嵌入模型还要单独排期，它的换型多一层代价，换了嵌入模型，整个知识库要重新嵌入一遍，库每天在增长，这笔开销越晚越贵，13.5 案例里会再遇到它。

13.3 多供应商与国产化

供应商策略回答三个问题，单一供应商要付什么代价，双供应商要做实哪些配套，国产化的硬约束把前两问改成什么样子。

单供应商要付三笔代价，这三笔与服务商是否可信无关。

1. 议价。独家供应意味着涨价只能接、条款变化只能签，谈判桌上没有第二张牌。年度续约时对方涨一成，接了，第 12 章算过的毛利模型要重算，产品定价跟不跟着动，两头为难；不接，就是全量迁移的硬工程。
2. 连续性。停服、限流、重大事故，独家意味着没有退路。13.2 那个一年关停的先例，轮到独家用户，就是全量迁移的硬期限，期限还是别人定的。
3. 迁移。用得越深，欠得越多。工程侧给锁入立过一个量法，数一数多少服务商私有的东西进了自家系统，私有的数据格式、特有的参数、深度调优的提示资产（工程侧把这一项连同抽象泄漏、版本节奏合称三笔迁移账，见姊妹卷第 17 章；抽象泄漏指业务细节漏进通用接口的设计毛病）。产品经理可以用同样的思路数自家产品，提示词跟这一家模型绑定多深，用户数据存在谁的格式里，有没有用到别家没有的功能；绑定越深，前两笔的分量越重。

这三笔代价引出一个更根本的问题，产品的护城河建立在什么上面。资产分两类。一类跟着产品走，任务集、评测集、知识库、提示资产、执行轨迹，这些东西模型无关，换哪家供应商都带得走，是真资产。另一类带不走，“我们用的是某家最强的模型”不是护城河，对手明天也能用同一家；服务商的私有功能更不是，用得越深，锁入越深。多供应商策略在产品层面的根基，是一条资产可带走原则，最值钱的资产独立于任何供应商保管，模型只是随时可换的供给（工程侧同一原则见姊妹卷第 19 章）。这里有一个要盯住的悖论，提示资产最值钱，也最容易在深度调优里跟某一家模型深度绑定；解法是让提示资产独立做版本管理，并在备选模型上定期回归，用不着放弃调优；平时不演练，出事就切不过去。

真做双供应商，买两家只是开头，三件配套缺一不可。

1. 统一接入。模型接入处放一层薄的适配层，业务只认自家这层接口。截至 2026 年年中，主流模型服务基本都提供同一种通用的接口格式，换服务商改的是接口地址、密钥、模型名三处配置，不动代码，这个习惯从第一个 demo 起就该养成（口径见本章参考资料）。
2. 备线保持流量。备用那条线如果常年零调用，切过去时面对的就是冷启动的服务加一份没磨合过的提示词，备份等于没有。备线保持运行用的是影子期的变体，让备线分一小部分真实流量保持热态；与换型时新旧并跑、只比不发的影子期不同，用户看到的答案仍由原线出，备线只跑不发。
3. 两份成本要认。备线的调用要花钱，两家各自的回归评测要各跑一遍，合规审查、合同、账号这些组织侧的工作也是两份。双供应商是一笔保险费，不是免费的冗余。

保险费值不值，由产品经理来判断，标准就一条，业务停得起还是停不起。周报晚一天发，损失有限，守着单供应商，多点耐心就够；实时客服停一小时，损失直接计入收入，双供应商就是该买的保险。算式不难，停机一小时的损失乘上出事概率，与保险费比大小。备线真启用的那一刻，就是第 10 章讲过的降级，备用档位能力多半弱一截，降级必须可见，用户得知道手里的答案来自降级档。

组织侧还有一张表值得常备，候选模型清单。把常用的档位预先审一遍，法务过许可协议，工程记下上下文窗口、能不能微调、支持哪些模态，审过的进表。新项目选型从这张表起步，表外的模型不是一律禁用，只是要先补审再上（做法见姊妹卷第 19 章）。这张表把 13.1 的合规门槛、13.2 的时效纪律固化成流程，季度复评有表可翻，换型有预审过的退路可切，比每次现找现审省大量时间。表不必长，覆盖从廉价档到主力档的常用几档就行，表上每行带保质期，过期重审。

国产化把前面两问改了条件。13.1 拆过三层约束，采购偏好、数据不出域、私有部署。前两层在供应商选择上还留有余地，境内提供服务的厂商不止一家，双供应商照做，只是候选池换了一批名字。第三层完全是另一回事，私有部署要求模型权重开放，候选清单立即收窄；开放权重换来的东西也看得清，数据留在域内、按自家语料微调的自由、服务商停服也切不断的退路。这份自由有明确代价，三样，算力自己备、运维自己扛、安全补丁自己追（口径见本章参考资料）。

产品经理在这一层的动作，是把客户清单按三层约束标注，哪些客户只是目录偏好，哪些真要求数据不出域，哪些点名私有部署，标签决定产品要不要分云端版和私有版。分版本的代价要提前看清，两套版本是两倍的回归评测、两套的发布节奏，13.2 的三道门每套都要走一遍。工程侧对多数团队的路线建议是混合，先用托管 API 把产品跑起来，等规模或合规的压力成为现实，再一步步转自托管；流量大到一定程度，自托管的总成本反而更低，省下的钱换成了运维的工作（口径见本章参考资料）。产品经理在这条路线上的职责，是说清自家产品站在哪一段，不在三家门店的量级上提前做金融级的部署，也不在合规硬约束已经生效时假设不会有人来查。

13.4 自研与外购的分界

自研与外购的分界放在一条四档阶梯上，提示词与编排、检索、微调、自部署，次序的依据只有一条，越靠前的档改动越便宜、见效越快、回头越容易，上一档调无可调再动下一档。第 6 章讲迭代节奏时立过同一条纪律，先改提示词里的一个词，不行再改一句话，再补一节，动模型排在最后；本节把这条纪律放大一层，用到供给策略上。

第一档是提示词加工具加编排。产品行为的一大半写在系统提示、工具说明和流程编排里，这一层的改动以小时计，改完当天就能过评测。能力不够时的第一反应永远是回这一层再挖一遍，示例再加两个、任务拆步再细一点、工具说明写得更像一份好文档。第 7 章周报提示词里那句“查不出原因的地方，如实写未查明，不要编”就是这一档的活，一句话的成本，挡掉一整类硬答。多数产品终身停在这一档，谈不上保守，这一档的性价比确实高。

第二档是检索。答案需要公司内部、天天在变的知识时，做法是把知识放进库，不是掺进模型。第 2 章立过的认识在这里兑现，知识在库里不在模型里，换知识不用换模型。判据很干净，产品答不好，是缺内部知识，还是缺推理能力，缺知识，上检索，数据日更产品就日更；缺推理，检索帮不上忙，检索只负责把材料递进模型的上下文，推理是模型自己的能力，材料递齐了还答不好，库里没有东西能补这一项。案例线的知识库是这一档的实例，三张报表、口径文档、历史周报切块入库，老陈的问题答出来就有出处。时序上还有一条提醒，库里的知识比模型过时得快，报表每周在出、口径月月在改，库不跟着更新，答案就悄悄过期。

第三档是微调，拿自家精心挑的样本把模型权重再训一遍，行文风格、领域词汇这些行为直接变成模型的默认，不再靠提示词每次叮嘱；前两档都到了头再动它。判断是否到了头，看三个信号。

1. 风格与格式调不动。提示词写得再细，内容对，行文风格还是不稳。有一个现成例子，一家律所的文书生成，条款内容提示词能保证，行文的结构和衔接始终有差距，律师一眼能看出来；提示词这条路走到头，用微调把风格压住（口径见本章参考资料）。
2. 领域词太偏。行业词汇和概念在通用语料里太少，提示词补背景也补不平。
3. 规模经济。量大了，每次检索都要带一大堆材料，这笔钱攒起来超过微调的投入（口径见本章参考资料）。

微调这一档，产品经理要认清三件事。第一，微调不是一次到位，数据分布在变，模型要周期性重训，一次训练投入换的是一项持续运营，这项运营要在第 12 章的成本口径里添一行。第二，微调要喂精心挑的样本，出题的活又回到产品经理手里，题目质量要求和任务集是一个标准。第三也是最硬的一条，收益必须评测集测得出来，上微调之前先立对照，同一套任务集，新旧两版同场对比，通过率、成本、延迟三列数，赢了再上（工程侧把这个打法叫冠军挑战者，见姊妹卷第 14 章）。工程侧还有一条更简的判据可借，值得动微调的情况只有三种，要大幅压缩成本或时延、合规要求私有化、系统层调无可调（口径见本章参考资料）。拿案例线设想一个微调场景，哪天产品要周报永远用三家店各自认得的版式和口吻说话，提示词磨了几轮还是不稳，量又大到每周都要为这份不稳定付核对成本，三样凑齐，微调就排得上日程；眼下的三家店，离这一步还很远。

最后一档是自部署，把开放权重的模型跑在自己的服务器上。这一档的驱动通常不在能力，在约束，13.3 讲过的合规硬线，数据不出域、私有化采购，是主因；次因是规模，流量大到按次计费的总成本超过自己维护一套的成本。真到这一步，选推理引擎、备算力、做运维都是工程的活，产品经理管两件事，一是确认驱动因素是真实约束而不是“想要掌控感”，二是把运维的持续成本在成本口径里留出位置。案例线哪天接了一个点名私有部署的大客户，这一档就立项，届时 13.3 的三层约束清单就是立项评审的第一页。至于从零训练一个自己的模型，不在产品的选项里，那是模型厂商的战场，产品公司押上去就是拿业余对抗专业。

四档整理成一张随时可查的表。

档	改的是什么	升级到这一档的信号	回头的代价
提示词与编排	系统提示、工具说明、流程编排	起点就在这档，不用信号	改回来，随时
检索	知识库、切块、混合检索	缺的是内部知识，不是推理	库下线或重构，以周计
微调	模型权重，按自家样本再训	风格调不动、领域词太偏、量大到检索比微调贵	重训或换回原版，以月计
自部署	开放权重跑在自有服务器上	合规硬线、流量大到成本反转	下线一套基础设施，以季计

这张表从左往右读，改的东西越深，回头越难，升级信号必须越硬。产品经理在升级评审上的职责不在替研发定技术方案，在把门槛立住，每一档的升级申请必须带着前后对照的评测数字来，没有数字的升级议题，一律退回第一档继续挖。这个门槛与第 11 章的验收门、第 15 章的放量门是同一族，智能体产品的每次大改动，都以评测数据说话。

13.5 【案例线进八】经营分析产品的模型组合

这一节给案例线产品的三个功能各配上档位，周报线配主力档，问答线的大头配廉价档、推理题分流到主力档，备料线配嵌入档，配齐之后第 12 章的成本清单从一行变成三行，按月盯单任务成本。这张清单里，模型调用是变动空间最大的一项，同一份周报用主力档跑和用廉价档跑，单次模型费可以差数倍。

先拿第 4 章任务画像的尺子把三个功能量一遍。周报初稿加小周的深挖，低频，每周跑三家店各一份，深挖偶尔一次；重推理，归因要多步查证，工具逐一调用，材料逐段处理。店长问答高频，老陈每天打烊后都要问几句；轻，单问单答，只读取数，不动一个数。知识库备料走固定节奏，三张报表、口径文档、历史周报每天有增量，切块、嵌入、入库，一件不少。画像一摆，档位基本就定了，周报线配主力档，贵而强，一周只用几次，用得起；问答线的大头配廉价档，便宜而快，天天用成本也低。第三档是嵌入模型，管备料线，它不答题，只把文字变成能比对远近的向量，第 2 章讲 RAG 时见过它的用途。

问答线里有一个分岔要单独设计。老陈的问题不全是同一类，“昨天卖了多少”是取数题，“报废怎么偏高”是归因题；取数题廉价档直接答，归因题要查证、要推理，廉价档答不好。分诊的判定按第 5 章讲路由时立的次序，先写规则，问句里带指标名和数字的，走廉价档直答；带“为什么”“怎么回事”的，走主力档带工具查。规则分不出来的灰色问句，交给廉价档模型做一次意图分类，分类本身就是高频轻任务的样板，廉价档做这个正合适。拿 8.5 里给老陈备的三条示例问题过一遍分诊，“昨天损耗为什么比平时高”带为什么，主力档；“上周哪个时段卖得最好”是取数比较，廉价档算得出；“开学季备货怎么看”是建议题，要翻历史库和口径文档，归主力档。三条各归各位，规则的轮廓就出来了。这样配下来，问答线的绝大多数流量走便宜的那档，贵的那档只接真正需要推理的题，单次成本的结构压下来了。

嵌入档有一条特别的纪律，定了就不轻易换。换嵌入模型，等于换掉“文字变向量”的那套对照规则，整个知识库要重新嵌入一遍；库每天在增长，三张报表每周添新行，历史周报每周多一份，重算的成本越晚越贵。嵌入档选型时，稳定性的权重调到最高，选中之后除非出了硬伤，不跟风换新。13.2 的三道门对嵌入模型同样适用，只是第二道门的成本格外大。

主力档这边方向相反，这一档不省钱。周报一周只有三家店各一份，主力档的单次成本乘上次数，在三行成本里多半是最小的一行，质量却是产品口碑的根基，周报归因错一处，店长群里就传开了，10.5 记录过结论漏到关口外的教训。省钱要省在高频轻任务上，那里省下的钱天天见效；低频重任务上省的钱有限，赔进去的是产品的名声。这一条与 13.1 的次序同源，能力先过线，再谈省钱。

三档配齐，第 12 章那张清单扩成三行。周报行用主力档，单次贵、次数少；问答行配廉价档，单次便宜、次数多，是用量增长最快的一行；备料行是嵌入档，按天固定投入，量随库的增长慢慢涨。这三行每月过一遍成本例会，盯一个指标，单任务成本，它也是第 15 章护栏指标的成员。问答行涨了，先分清是量涨还是价涨，店长问得勤，说明产品用起来了，量涨不用动档位；哪类问句在廉价档上答不稳、回流到主力档变多，说明分诊规则要修，或者该给问答线再分一档。分诊修过的每一处也有现成的去处，分错的问句标上该去的档位，进第 11 章的任务集当新题，分诊规则从此有了自己的测试集。

降级的联动也顺着三档各想一遍。主力档服务中断，周报是后台任务，等得起，恢复后补跑，早上六点变八点，小周的核对关口照常来得及；店长问答里的归因题没有这份从容，退给廉价档出一个数字加说明的版本，当日数据照给，归因暂停，界面上写明，第 10 章降级必须可见的规矩在这里兑现。嵌入档中断，问答绝不能退化成不带库直答，第 2 章讲过，资料不放进提示里，模型只剩编；正确的降级是界面上标注“今天查不了历史资料”，只答当日取数题。廉价档中断，整条问答线停摆，这在当前量级可以接受，等问答长成老陈每天依赖的入口，再按 13.3 的算式把这笔保险费提上日程。

组合定下不是终点，每个季度把 13.1 的四维重过一遍，价格和能力都在动，当期的最优解有保质期；真要动任何一档，13.2 的三道门一道不少。

本章小结

• 13.1 选型四维。合规一票否决，国产化三层约束从采购偏好、数据不出域到私有部署逐层收窄；能力看任务集跑分，两三家候选，记录通过率、延迟、单条成本三列数，总分之外更要看分项；成本问的是任务画像配哪一档，不问哪家便宜；延迟按功能定预算。次序固定，先过线，再比较。
• 13.2 换型流程。换模型等于换产品行为；四种信号，成本变了、能力到顶、供应风险、合规变了，任一出现就启动；三道门，触发确认写数字、全量回归看分项、灰度盯代理信号；模型和提示词不捆着换，决策记录带保质期。
• 13.3 供应商策略。单供应商三笔代价，议价、连续性、迁移；护城河建立在模型无关的资产上，资产可带走原则；双供应商三件配套，统一接入、备线保持流量、两份成本，保险费按停机损失乘出事概率计算；国产化三层约束决定要不要分云端版与私有版。
• 13.4 升级阶梯。提示词编排、检索、微调、自部署四档，越往后越贵越难回头，上一档调无可调再动下一档；微调三信号，风格调不动、领域词太偏、规模经济；升级申请必须带前后对照的评测数字。
• 13.5 三档组合。周报主力档、问答廉价档加分诊、备料嵌入档；嵌入档定了不轻易换，主力档不省这一档的钱；三行成本按月盯单任务成本，降级路径三档各有一条，降级必须可见。

模型供给的三件事到此有了完整答案，选型有判据，换型有流程，组合的成本算得清。第 14 章转向安全与责任，数据进了模型、结论发到人手里之后，哪些线绝不能碰，哪几类结论绝不自动发出。

试一试

给自己手头的产品做一次档位盘点，没有现成产品的话，拿第 4 章试一试里过了关的那个设想来做，约一个小时。

1. 列功能清单。把用户可感知的功能一行行列出来，案例线的三行就是样板，店长问答、周报初稿、知识库备料。粒度切到“一类任务一个档位”才够用，不要停在“问答模块”这种混装粒度。
2. 标画像。每个功能记三样，频次（每天几次还是每周一次）、轻重（单问单答还是多步推理）、延迟预算（人在不在屏幕前等）。画像就是档位的判据。
3. 标档位。两列对照着填，当前用的是哪档，按画像该配哪档。两列不一致的行，就是这一练习的产出，特别是高频功能还压在主力档上的那些行。
4. 算降档空间。挑一处该降没降的，用第 12 章的单任务成本口径估一下，降一档，单次省多少，乘上月频次是多少。只估数量级就够，这一步要的是让“该降档”从感觉变成数字。
5. 过门。降档也是换型，13.2 的三道门同样适用，任务集全量回归，分项盯住降档后最容易掉的那类任务。第五步当场做不完可以写进待办，它就是下一步跟研发的议题。

交付物是一张功能乘档位的小表，功能、画像三样、当前档、该配档、降档空间。这张表进评审，跟功能清单放在一起。

参考资料

• 《GenAI on Google Cloud》（Ayo Adedeji 等，O'Reilly 2026）第 1 章（大小模型取舍：别默认大模型处处更好，关键是把模型的能力与资源需求对到用例的具体需求；小模型适合资源紧、成本敏感、窄定义任务与延迟敏感场景，参数规模、算力成本、资源需求、延迟、通识与推理能力逐项对照），见 txt/genai-google-cloud.txt（英文原文，第 1 章行 793-860）
• 《GenAI on Google Cloud》第 5 章（体验研究的延迟口径：百毫秒内响应感觉即时、超过十秒伤体验；成熟系统按查询复杂度自动选模型档，简单查询用小模型、需要时才上大模型），见 txt/genai-google-cloud.txt（英文原文，第 5 章行 6316-6331）
• 《GenAI on Google Cloud》第 6 章（微调决策五判据：要综合直觉而非只取回事实、领域词汇贫乏、风格一致要求、响应延迟、规模经济；律所文书案例，条款内容提示词可保、行文风格提示词压不住，律师一眼识破；微调不是一次到位，数据分布漂移要周期性重训），见 txt/genai-google-cloud.txt（英文原文，第 6 章行 7292-7400）
• 《GenAI on Google Cloud》第 6 章（部署环境四笔权衡：成本、安全、控制、可扩展；金融与医疗部署受严格数据驻留规则限制托管平台；数据主权、物理隔离与极端延迟要求下的本地部署要自扛硬件采购与全栈管理，平台对照含数据驻留与基础设施控制），见 txt/genai-google-cloud.txt（英文原文，行 1323-1333、7490-7516、8215-8300）
• 《GenAI on Google Cloud》第 8 章（成熟度框架对供应多元化的建议：避免供应商锁入、让工具与技术生态多样化），见 txt/genai-google-cloud.txt（英文原文，第 8 章行 10368-10382）
• 《Building and Distributing Agentic AI Solutions》（Julian Soh 等，Apress 2026）第 3 章（模型选择要显式并当作临时的：第一个原型选够用验证流程的模型、记录选择、跑出成本延迟质量基线；忽视约束的 demo 成功了，产品也会因单位经济学不立得住而失败），见 txt/building-distributing-agentic-ai.txt（英文原文，行 2677-2684、2838-2852）
• 《悟道智能体开发》（本书工程姊妹卷）第 3 章 3.5 节（中文模型阵容与档位搭法：选型最忌拿榜单当判决书；固定任务集考通过率、延迟、单条成本三列数；换服务商只改接口地址、密钥、模型名三处配置，主流服务接口格式趋同，截至 2026-08；高频轻任务配低价档、主力回路配中档、硬任务才上旗舰；权重开放是私有部署的分水岭；开放权重换私有部署、微调自由、停服退路，代价是算力、运维、安全补丁自担），本章 13.1/13.3 知识底本，工程深挖按该书对应章指引
• 《悟道智能体开发》第 17 章 17.3 节（三笔迁移账：锁入、抽象泄漏、版本节奏；锁入的量法是数一数多少私有格式落了库；两家咬得紧时锁入更深者减分的裁决规则出处），本章 13.3 知识底本，工程深挖按该书对应章指引
• 《悟道智能体开发》第 19 章 19.4 节（选型纪律之时效与锁入：决策记录带保质期；锁入三形态，深度调优的提示资产、数据不出域、总拥有成本；LIDA 系统换底座错误率从两成降到百分之三、架构未动；一家平台接口从公告废弃到关停留一年缓冲，期限内未迁完的调用失效；资产可带走原则，任务集与轨迹数据独立于供应商；混合路线与总拥有成本拐点），本章 13.2/13.3 知识底本，工程深挖按该书对应章指引
• 《悟道智能体开发》第 14 章（微调放最后的判据：大幅压缩成本或时延、合规要求私有化、系统层调无可调三种情况才动手；残留失败分型；冠军挑战者式新旧同场对比），本章 13.4 知识底本，工程深挖按该书对应章指引