第 9 章 交互与信任设计

智能体产品要过的一道关，是人敢把活交给它。纸面上的形态与档位定了，真用起来鼠标在用户自己手里，一个店长看着屏幕上自动跑出来的归因，第一念多半先问它说的能不能信。智能体攒信任的规律与传统产品不同，传统软件同样的输入永远同样的输出，头几次不出错，信任就攒下了；智能体的行为带着概率，第 3 章立的三大特殊性头一条就是这个，出错这件事，问题不在会不会，在什么时候、错多大。

信任靠三件设计来经营，让它看得见，叫得停，改得动，话说得准；看得见是透明度，叫得停和改得动是控制，话说得准是期望管理。本章五节，9.1 讲信任的规律，弄清它为什么建立慢、崩塌快、初始刻度为什么天然不准；9.2 到 9.4 把三件设计逐个讲透；9.5 案例线收口，看周报产品把三件事长成界面上三个细节，看最挑剔的那个店长怎么一点点信了它。

9.1 信任是智能体产品的第一道门槛

信任设计的经营目标，重点不在让用户信得更多，在让用户信得准，该信的地方敢放手，不该信的地方有戒心，用户脑子里的边界跟系统的真实能力对得上。这个目标由三个事实决定，用户的初始判断天然不准，信任建立得慢，崩塌得快。

初始不准的表现是两个方向相反的现象。一个是高估，有人把大模型对话产品当万能顾问，什么都问，问完就信，内部数据它没见过也能编出一串有零有整的数，第 2 章讲幻觉时拆过这套机理；另一个是低估，有企业试过一轮智能体，碰上几次答非所问，从此整类产品判了死刑，再提就是“那东西不靠谱”。同一代技术，有人当神，有人当骗子，两头都不少见。校准这个判断是产品的活，怪不到用户素质上。

不准的浅层原因叫参差的前沿（jagged frontier）。第 2 章讲过能力参差，同一个模型，看着难的题答得惊艳，看着简单的反倒出错；这个现象有正经的实验背书，哈佛商学院的研究者 2023 年在波士顿咨询公司做了一场田野实验，七百多位顾问分成两组，一组用上 GPT-4，一组照旧，做的是真实咨询任务，任务的机关在于一部分在模型能力界内、一部分故意设在界外。结果界内任务那组做得又快又好，界外任务上模型带着人一起错，而事先没有人分得清哪些题在界内。研究者给这条忽高忽低的能力边界起的名字，就是参差的前沿。它的产品含义很直接，用户判断这个活它干得了干不了，靠的是自己眼里任务的难度，而难度这把标尺是失灵的，看着专业的大分析它可能接得漂亮，数一数表格里某个词出现几次它可能数错。用户没法靠自己预判边界，界面就得替他把边界画出来，这件事第 8 章讲能力引导时正面展开过；这里的结论是，别指望用户自己试出边界来，试的过程就是出错的过程。

不准的深层原因叫 ELIZA 效应（ELIZA effect）。1966 年，MIT（麻省理工学院）的约瑟夫·魏泽鲍姆写了个聊天程序 ELIZA，本意是演示按关键词拼装句子的做法有多简陋，程序扫一遍输入，认出几个关键词，套模板把话反射回去，认不出就回一句“再多说点”，脚本模仿的是心理治疗师。结果出乎所有人预料，用户开始对着它认真倾诉，把自己的理解、知识乃至情感投射给这个只会拼装字句的程序。魏泽鲍姆记下了最出名的一幕，他的秘书看着他调了这个程序很久，明知对面是个程序，聊了几句之后转头对他说“能不能请你出去，我想单独跟它谈”。人会这样不奇怪，语言从来是人类专属的信号，一个东西说人话说得顺，人就默认它后头还带着理解力和判断力，这份投射是刻在骨子里的。今天的大模型口才远胜 ELIZA，ELIZA 只会反射句子，大模型能写行业分析、能认错、能道歉，这份投射只会更重。所以高估不是少数人的天真，它是语言界面面对的常态条件，用户上来的信任，默认就是虚高的。

信任这件事最要命的性质是不对称，建立慢，崩塌快。建立慢，因为一次体验换不来信任，它要靠一串可验证的经历攒出来。用户头一回用，多半先拿不痛不痒的小事试，试成了，第二次稍微放大点，再成，再放，每一格放大都要求上一格没出事；而智能体的输出质量本来就有波动，十次里偶尔冒一次离谱的是常态，所以这条上升路走得不稳，升两格退半格是家常便饭。

崩塌快，是三条原因叠在一起。头一条在人怎么记这些事，好事按次记，坏事按类记，快递准时一百次没有人记得，丢一次件，“这家不靠谱”的印象就立住了，这不能怪用户苛刻，是人筛选信息的本能，服务行业都活在这个规律下。另一条在概率性行为本身，它保证坏事必然来，传统软件把 bug 修掉那个错就永久消失，概率模型没有那行代码可修，波动治不掉只能管，所以出一次大的，问题不在会不会来，在早晚。最后一条在后果落地，它把坏事的分量抬了一个量级，聊天机器人说错话，刷新就没了，智能体发错邮件、算错账，进到真实世界。三条相乘，几十次小好攒下的信任，一次大错就能清空。

还有一条反直觉的发现，头几回太顺，不是好事。微软的研究团队综述过六十多项关于过度信赖的研究，其中有一条顺序效应，早期的正面交互会造就持久的、超出实际能力的信任。头几次恰好都在能力界内、恰好都顺，用户就在虚高状态下放了手，把要紧的活整个交出去，等撞到界外那一刻，摔得格外重。高估不可怕，高估加上大动作才可怕，所以产品的头几次体验设计，恰恰不该追求惊艳全场，该追求表里如一，它答得好，同时让用户看见凭什么答得好；它答不了，就明白说出来。惊艳的演示会进一步抬高投射，表里如一的体验就养得出准头。

这种不对称画在图 9-1 里。信得深的用户撞一次界就流失，信得准的用户撞了界会说“这它不行，那个它行”，留下来；前者是营销的资产，后者是产品的资产。跌完之后的重建线比头一条还慢，因为污点在记忆里。

9.2 透明度设计

透明度设计是三层翻译，把系统内部的证据翻成用户能读、能核对的东西，过程、依据、原因各对应一层。用户的疑心拆开是三问，它在干什么，凭什么这么说，为什么这么做。传统产品基本问不出这三问，按钮按下去，结果立刻出来，按钮的功能本身就是答案；智能体产品三问全占，它可能跑了十几分钟才交活，中途调了数据、翻了记录、串了好几步，结论里掺着检索来的事实和推理出来的判断，两者外表看不出差别，它选了这条路、没选那条路，用户更无从知道。

常见的错误答案是把内部日志甩给用户。系统里其实什么都有，调了哪支工具、返回了哪些字段、模型每一步想了什么，全记在轨迹里；有的产品图省事，把原始轨迹直接展示出来，美其名曰全程透明。用户看不懂，一屏的函数名和参数是研发调试用的，不是用户的证据，翻两页找不到人话，关掉，比什么都不给还糟，因为它看起来像在拿术语挡人。

第一层答它在干什么，翻的是过程。这里有个现成的好做法，接活先亮计划。智能体接到任务，先把它的理解摆出来，打算分几步，先查什么后查什么，产出什么，用户点头再开工。这一下正好守在最危险的时刻，任务交付出去的那一秒，正是信任最脆弱的时候，计划摆在眼前，用户就能在跑偏之前喊停，“等会儿，我要的是网页，不是命令行工具”，这话在开工前说是一句话，跑完了再说就是整个重来。计划还有第二重身份，它是一份约定，用户批了计划，等于双方对干什么、干到哪达成一致，日后结果不对，拿计划当对照，比各执一词清楚。工程侧的编码工具里，这个做法已经成了标配，接活先列单子，建哪些文件、按什么顺序、实现什么，几秒钟扫一眼，拦下的是几十分钟的错方向。

过程可见还有一处容易漏，等待本身也在传递信息。任务跑着，界面上空转八秒和一句“正在核对损耗表”，是两种体验，前者什么都没说，用户只好自己脑补，脑补往哪个方向走不受产品控制；后者把这一刻交代清楚了，用户等得明白。等待没有必要藏起来，它是一块正经的设计面，转圈的时候显示什么话，跟功能文案一样要过产品经理的手。

跑起来之后，过程的可见性靠分层，不靠堆量。智能体干活的信息量天然超标，计划、进度、中间结果、工具输出、状态消息，全摆出来是灾难，全藏起来也是灾难。成熟的分层是四档，最外面一档是通知，只在该知道的时候响一声，做完、卡住、要审批；往里一档是概览，扫一眼就知道跑到哪步了、有没有堵着；再往里是明细，给起疑的人看每步做了什么；最底下是全记录，日常没有人看，但它在，审计和排查就有地方去。用户平常只跟通知打交道，起了疑往下钻一层，钻到底能到全记录。这个结构不强迫所有人当监工，不放心的人有得看，放心的人不受打扰，同一套界面伺候两种信任水位。

第二层答凭什么这么说，翻的是依据。这层的反面案例在行业里很出名，2023 年，美国一位律师拿对话产品查判例写诉状，产品麻利地给了六个案例引用，有理有据，像模像样，全是编的；律师没核对就交了上去，对方律所找不到这些案子，法官查明后罚了他五千美元。第 2 章讲幻觉时说过，语料里没有的问题，像模像样的编造反而排在概率前面。这个案子给界面设计的教训不在模型那头，在用户这边；模型那头治不断根，用户这边得有一条验证的路。好的做法现在也成了常见样式，每条结论后面挂角标，点开是原始出处，哪张表、哪一行、哪一天；问答产品 Perplexity 把这做成了招牌，逐条主张都带链接，点开就是原始文章。出处跟结论走，用户核对的动作成本压到一次点击，验证就真的会发生，出处堆在文末一整页，等于没有给，没有人翻。

第三层答为什么这么做，翻的是原因，主要在出错时用。任务没办成，给用户的话该说人话，“那天订不了机票，是因为日历助手查到当天下午有日程冲突”，而不是甩一句“错误：预订未成功”。前一句用户能判断、能行动，改日程或者换个方案；后一句用户只能再点一次重试。出错原因的翻译质量，直接决定用户把这次失败记成“它失误了”还是“它不行”，同一件事，两种记法，对信任的影响差出量级。

三层翻译还有一个绕不开的细节，把握程度怎么说。直觉的答案是给个数字，“这条结论置信度 93%”，看着科学，其实害人。害在 93% 这个数有两种来历，拼写检查器说它 93% 有把握，这个数用户可以复算，一百个词里标了七个可疑，剩下的按字典逐个对过，过程摆在那里；模型说 93%，没有人算得出它是怎么来的，这个数本身也是模型生成的一句话，跟它给出的结论出自同一个生成过程，没有独立的计算摆在旁边供人复核，看着精确，实际不可检验，界面上放这么个数，等于给结论添了一份假的权威。研究里有个配套的意外发现，解释给得越细，有时用户反而越不加甄别地信，细节成了新的权威信号。所以把握程度不用数字，用证据说话，写成两条做法。其一，查到的和推测的分开摆，结论旁边标清楚，这句是从某张表的某个数字来的，还是从旁证推出来的。其二，证据不够就摆候选，与其硬凑一个看似笃定的答案，不如把两个可能各带各的依据摆开，让用户挑，决定权留在人手里。

透明度还有一条边界要守，它不是把一切摊开。摊开有两重代价，一重是噪音，三层都塞给新用户，认知直接过载；另一重更隐蔽，界面越干净流畅，越像一个人的口吻，ELIZA 效应那份投射就越重。所以透明度设计里有一件反直觉的活，适当地留下智能体生成的痕迹。最直接的一样是生成标识，产出的东西写明是智能体生成的。这不只是好意，在中文环境里是硬性要求，2025 年 3 月，国家网信办等四部门公布《人工智能生成合成内容标识办法》，当年 9 月 1 日起施行，配套的强制性国家标准同日生效，管文本、图片、音频、视频、虚拟场景五类内容，标识分两层，一层是用户看得见的显式标注，一层是写进文件元数据的隐式标识，生成服务的提供者和传播平台各担各的义务；对外发布的客服回复、营销物料，都归这个办法管。对内用的东西法规未必强求，加了也不亏，内部周报落一行“智能体起草、某某核签”，成本一行字，换回的是整条可追溯的链路，出了争议，谁写的、谁核的，白纸黑字。顺着留痕迹这条路还有一处同类设计，第 5 章讲记忆时留过话，让用户看得见产品记了他什么、能一条条删掉，记忆透明也是透明度的一部分，数据从暗处挪到明处，用户对产品的戒心就降得下来。

三层翻译画在图 9-2 里，左边是系统内部的原始证据，右边是用户眼前的界面，中间这道翻译层，就是透明度设计的全部工作量。

9.3 可中断与可纠正

控制设计按任务的时间线放三个控制点，事前确认、事中暂停、事后纠正，关键不在要不要能停，能停是底线，关键在时机，拦在哪、停在哪、改在哪。人的胆量来自退路，知道随时能叫停，就敢把要紧的活放出去，知道错了能改，就不把每次交付当成赌局。传统产品的退路现成，软件卡了刷新重来，改坏了 Ctrl+Z 撤销，最坏也就重装；智能体产品的退路要自己修，因为它的动作常常没有撤销键，邮件发出去了、数据改了、结论已经有人拿去用了，这些动作一旦落地，往回走不是按个键的事。所以控制感是信任的基础，而控制感不靠承诺，靠设计。

事前是确认。动手之前，把打算干什么摆到人面前，点过头再开工，9.2 讲的亮计划就是它的载体，但确认比亮计划多一层内容，就是亮代价，这次要动哪个系统的数据、要对外发什么、预计花多少，跟着计划一起摆。什么时候需要这道确认，第 7 章决策点表那两问，加上 8.3 的三问，判据是现成的，不可逆的、对外的、错了贵的，先过人；什么时候不需要，可逆的、便宜的、只读的，直接跑，每步都问等于把自主性没收。事前确认有一个天敌，就是审批疲劳，8.3 结尾说过这道关自己会失效，关口还在，把关已经空了；监测的信号也是那两条，通过率长期居高，审阅时长持续缩短。对策还在设计侧，送审的条目自己会说话，打算做什么、凭什么判断安全，一眼能判，让人三十秒完成一次真审，好过让人三秒钟完成一次假审。

事中是暂停。跑的半道上，随时能喊停，停了不损失，这对系统是个硬要求。停下来那一刻，界面要答上三句话，做完了什么，正在做什么，还剩什么，用户看了这三句，才知道是让它跑完、当场改方向，还是先搁着。能停还得能续，用户改了要求、换了参数，从停下的地方接着跑，不用从头再来，跑了一半的活不白干。这背后是工程上的检查点（checkpoint）机制，跑到一定进度把状态存一档，暂停、恢复都从档上走，用户不需要懂它的实现，但产品经理要知道这条底线，喊停如果等于作废，用户就永远不会真的喊停，他会等到全部跑完再检查，那时候错误已经成型。事中还有个伴生问题，谁盯着。长任务跑几十分钟，用户不该守着屏幕，通知要分级，要人拍板的才响，跑得顺的收个完成通知就行；把用户当监工的产品，等于把自主性卖点原样退回。

还有一种停，是它自己停下来的。任务的规格有缺口，哪个店、哪一周、算不算促销，缺了会改变结果的关键信息，与其猜一个往下跑，不如停下来问一句，问明白了再干。这种停拦的是理解，不是动作，跟人接活时先问清“这周算不算上促销”是同一回事；把它设计成正常动作而不是故障，任务的偏差在开工前就先少了一截。

事后是纠正，东西交出来了，还能改，改得动。最直观的一件是结果可编辑，用户在产出上改字、删段、换结论，这个动作要当成正常操作设计，不是当异常兜底。更进一步，用户的编辑本身是信号，他改了归因的方向，说明模型那条推错了；他删了一类废话，说明口吻过了。编辑记录留下来，回流成评测的测试题和提示词的修改依据，第 11 章讲坏案例回流时正面展开。另一件是动作可回滚，能撤回的动作，用户就敢委托，这条对人对系统都成立；产品上要把能回去明示出来，这一版改坏了，退回上一版的按钮在哪、退了会丢什么，摆清楚，藏着掖着的撤销功能等于没有，用户不知道退路存在，就不敢往前走。最后一件也最容易漏掉，纠正的入口要在用户伸手就够得着的地方，结论旁边挂着出处，出处点开发现数不对，旁边就该有“这里有问题”的入口，一步把错误报到该管的地方；让用户先找客服、再截图、再描述半天，九成的错误报告死在半路，产品失去的东西不止一条反馈，还有用户“这事有人管”的感觉。

三个时机收在一张表里，各自对上任务时间线的位置，画在图 9-3 里。

时机	管什么	界面载体	代价
事前确认	要不要干、怎么干	计划加代价，人点头开工	每次都停，节奏跟着断
事中暂停	跑偏了当场掰	随时停、三句话状态、改了续跑	系统要存档，界面要答话
事后纠正	交完了改回来	可编辑、可回滚、纠正入口一步到	改动要留痕回流，不是删掉了事

三个时机合起来，交付给用户的是一种掌控，活的每一段，手都够得着。到了不同用户手里，松紧还该可调，新用户什么都想看一眼，老用户嫌确认烦，把档位设置亮在明处，低代价的动作自动跑，中等的做完通知一声，高的先问再动，哪类动作归哪档，用户自己拨。这套档位的体系第 8 章立过，这里说的是用户界面上那一层，它得存在，用户还得找得到；档位调好的标志是用户忘了它的存在，该快的快，该稳的稳。

最后是分寸，控制做过了头，产品就死了。每步都确认，用户成了给智能体打工的；每个产出都要求人审，自动化红利一分没有拿到。控制的密度跟着一件事走，就是错误的可逆性，贴着不可逆动作放控制，可逆的放开跑，这跟第 7 章决策点表“发送动作，人先点，授权后再自动化”那一行是同一个道理。控制感的本质不在用户时刻盯着，在用户确信随时能拦下来、能改回来，确信这一点的人就敢放手。

本节管的是防和纠，跑偏之前拦住、跑偏之后掰回来；真出了错、落了地、用户已经看见损失了，那时该说什么、做什么、怎么降级转人工，第 10 章失败体验专门回答。

9.4 期望管理

期望管理的底线一条，产品自己嘴里的说法，得跟产品实际做得到的对得上，宣传、销售、界面、合同四个地方都要对上，口径跟着版本走。过度承诺是智能体产品的头号信任杀手，这个头衔轮不到模型出错。模型的错是概率注定的，治不断根，只能管；承诺的错不一样，它完全是自选动作，宣传页上那句话、销售嘴上那个口径、界面里那行文案，全是产品自己写下去的。天生的错只能适应，自选的错可以不做。

落差从三个方向压过来。头一个方向，用户自带四条假设进门，它说的是真的，不知道有幻觉这回事；它每次说得一样，不知道行为带概率；它什么都知道，不知道学问有截止日期；它不偏不倚，不知道训练数据带着倾向。这四条没有一条是刁难，全是拿人类同事的标准套智能体的自然结果，是 ELIZA 效应在知识层面的样子。另一个方向，环境在推高预期，这一轮生成式 AI 的媒体叙事把近于万能的印象铺得到处都是，用户是带着这个背景音走进产品的。最后一个方向，压力来自自家，行业竞争、投入回本、销售指标，都在把口径往上顶，宣传页写得保守，签单就慢，这笔得失每个团队都算过。三个方向没有一个靠产品经理一人能扭转，但有一条底线能守住，别的管不了，自家的口径归自己写。

这条底线值得死守，原因在 9.1 讲的信任规律里，期望就是信任的初始刻度。承诺写“保证准确”，用户就按百分之百的刻度用；产品实际是常见问题九成可用，第一次碰上那不成的一成，用户记下的重点不在十次里错了一次，在“它说保证的，骗了我”。坏事是按类记的，承诺把每一次普通失误都变成了说话不算数。反过来，承诺压得太低也不行，“仅供参考”说在前头，用户就真只当参考，要紧的活不给它，价值一分实现不了，产品慢慢就没有人用了。所以期望管理的要领不在把话往低说，在对齐，嘴上说的和手上做的，误差越小越好。

对齐有四个地方，一处都不能漏，因为用户是从四处拼出产品长相的。

宣传材料是第一处。“强大的数据分析能力”是形容词，没法兑现也没法证伪；“每周一早八点前，交出三家门店上周经营周报初稿，每条结论附数据出处”是任务，做没做到，周一直接见分晓。写法的替换只有一步，用任务语言替掉能力形容词。涉及时效的写“截至某年某月”，不写“实时掌握最新”，第 2 章讲知识截止时立的话术在这里落纸。形容词堆得越高，跌得越响，这条在智能体产品上比传统产品厉害得多，因为产品行为本身有波动，承诺写在均值上，用户体验在波动里。

销售话术是第二处，也是最容易膨胀的一处，因为它离签单最近、离产品最远。治它的办法不在喊口号，在把话备好，一份能承诺的清单，一份不能承诺的清单，两页纸，销售照单讲话。能承诺的句式从评测里来，第 7 章立的周报初稿可用率、归因方向正确率，第 11 章会把它算成可追踪的数字，“历史测试题上周报初稿可用率九成上下”这样的句子，比“特别智能”硬得多，也更敢说，因为它背后有评测数字撑着。不能承诺的清单同样值钱，不承诺百分之百准确，不承诺实时数据，不承诺无人监管运行，写明这三条，客户当场把话问得再紧，销售手里也有底。还有演示纪律，第 7 章防 demo 效应的那套做法，当场换没排练过的场景再跑、拿有标准答案的题当众对答案，原样发给销售照着做，比任何话术培训都实在。

界面文案是第三处。第一次打开产品的那个时刻，是期望管理性价比最高的一刻，这里要说清三件事，它擅长什么，它不擅长什么，答不准的时候会怎样。第三句最要紧也最常缺席，它把出错从事故重新定义成产品说明的一部分，用户带着这个预设去用，撞见了不惊，不撞见是惊喜。首次引导的完整做法，第 8 章讲能力引导时展开了，这里只补一条日常的，回答界面的措辞别装权威，拿不准就说“依据现有材料看”，别说满；这一条跟 9.2 的置信讲法是同一件事的两面，一面在界面上，一面在措辞里。

最后是合同和协议。这里要写的就是第 1 章立的那三个句式，常见问题覆盖到什么程度，答不准时怎么兜底，什么情况转人工、多快转。三句写成可考核的条款，覆盖度写百分比区间，兜底写动作和时限，转人工写触发条件；写不了可考核的口径，说明产品自己也没有想清楚边界，那更该回去想，而不是把“保证正确”糊进合同里。合同层面还有责任划分的细节，谁担什么错，那套内容跟失败处理贴得更紧，第 10 章专门讲。

四个地方之外，还有一条动态纪律，期望管理不是一次性的，因为产品行为会漂。第 3 章的三大特殊性，第二条是持续进化，底层模型一换，给模型的指令一改，行为就跟着变，昨天答得磕绊的问题今天可能对答如流，反过来也成立，承诺口径要跟着版本走。换了模型，承诺的覆盖度要重新测过再沿用；能力涨了，能承诺的清单要更新，这本来是涨价的资本；能力缩了，宣传页要改，不能让去年的口径替今年的产品背书。“它变了”这件事也该给用户一个看得见的信号，能力悄悄变化而界面一声不吭，用户只会觉得昨天的经验今天失灵，对产品的信任又跟着掉一截。

9.5 【案例线进四】周报里的信任细节

周报初稿的界面把本章三件设计长成三个细节，结论角标、分级标注、常驻核对栏，团队里后来管它们叫信任三件套。第 7 章验收标准三条里有两句跟信任直接相关，每条结论有出处，拿不准的地方有标注；本节看验收标准怎么变成界面上的三件东西，再看最挑剔的那个店长怎么一点点信了它。

头一件，结论带出处，出处点得开。周报初稿里每条归因结论后面挂角标，比如“ST001 上周销售下滑，主因写字楼商圈连续降雨影响午间客流”，句尾一个角标，点开，跳到销售日报里对应的那几行原始数据，表名、日期、数字都在。设计上有两个讲究。其一，出处跟着结论走，一条一挂，不做文末统一列一页参考，文末那页没有人翻，等于没有挂；9.2 讲过，验证的成本要压到一次点击，验证就真的会发生。其二，数字先过自动核对这道关，第 7 章验收标准里数字零差错是硬线，一票否决，这条线的产品化做法是系统自动核对，初稿里每个数字回后台对一遍，对上的不打扰，对不上的自动标红。小周核对的动线由此定形，先扫标红，通常没有，再抽查角标，最后读归因；人最有用的那部分注意力，全花在程序判不了的判断上。

第二件，拿不准的如实标，而且不标数字。初稿里的每条结论挂一个分级标注，分三级。已核实，数字与后台对上、出处可点；有依据，从旁证推出来的，推测成分写明；未查明，查了一圈没有结论的。第 7 章那支归因提示词里写定的“查不出原因的地方如实写未查明，不要编”，在界面上就是这个标签。这里特意没用百分比，9.2 把理由讲透了，模型的置信数字算不出它的来路，摆出来是给结论添假权威；分级标注用的是证据的成色，不是概率的口吻，小周看得懂，店长也看得懂。分发到什么程度也定了规矩，已核实的直接进正文，有依据的注明推测，未查明的不硬凑、单列一行。宁可周报里躺一行“试饮报废抬升的原因未查明”，也不编一个体面的解释，那一行字难看，但它替产品守住了最值钱的东西，说没有查到的时候，所有人知道真是没有查到。

最后一件，核对入口常驻，改动留痕。周报初稿页的底部固定一条核对栏，摆着第 7 章那页四条清单，数字对上、结论有出处、拿不准有标注、口径一致，每条半分钟勾得完。勾完之后分两条路，改动小，直接在稿上改，改动逐处留痕，改了哪句、从什么改成什么；改动大或者方向不对，整段驳回，驳回理由一并记下。这些修改和驳回不算垃圾数据，它们是 9.3 说的事后纠正的另一重价值，它们回流成评测的测试题和提示词的修正依据，第 11 章的评测计划里有它们的位置。核完署名发出，落款一行字，“智能体起草，小周核签”。这行字一石三鸟，给管理层一个交代，谁对内容负责；兑现第 7 章决策点表里“发出前核对：人”那一行；把 9.2 讲的生成标识原则用进内部场景。顺带一句形态，初稿的栏目、顺序、口吻照小周存档里老周报的样子排，第 7 章做 demo 时就发现，管理层看了两年的周报长什么样，初稿就得长什么样，形态一突兀，内容再对也要先打个折扣。

三件套画在图 9-5 里，一张初稿页的线框，角标挂在结论后，分级标签贴在句边，核对栏收在页底。

三件东西上线不难，难的是经得起最挑剔的那双眼睛，这家连锁恰好有一位。ST001 的老陈，五十出头，吧台出身，三家店里最资深，对智能体懂生意这件事抱着天然的怀疑。评测收尾、进影子期之前的那一周，小周把智能体写的初稿带给他看，本意是让最懂行的人先挑挑错，等影子期真跑起来，这位就是第一裁判。老陈起初懒得看，扫到 ST001 那段归因，“上周销售下滑，主因连续降雨影响午间客流，周四降幅最大”，他停住了，句尾有个角标，小周示意他点一下，点开是周四的销售日报分时数据，午后两小时的单量明明白白缩了一截。老陈盯着看了半分钟，那个周四下午雨最大，店里确实空得能数清座位，数跟他记忆里的那天对上了；他又把 ST001 整段的角标挨个点了一遍，都是实的。真正让他改口的是另一处，损耗那段挂着“未查明”的标签，试饮报废抬升的原因，智能体没有编。老陈后来那句话小周记了下来，“编得圆的话我见多了，肯说不知道的，头一回”。打那以后他提了个要求，每周的初稿也给他看一眼 ST001 那段。

这个故事里没有一个字来自模型能力的进步，模型一行没有改；变的是证据摆在哪、拿不准的话说不说、核对的路顺不顺。老陈信的点不在模型聪明，在它说的每句话都留了检查的路，而检查的路他自己走通了。9.1 讲的信任积累在这里落下第一笔，慢，但是真的。

三件套后来还有了第二个用处，给评测当骨架。第 11 章的评测计划里，周报初稿的测试项直接从三件套里长出来，角标指向抽核对不对，分级标注抽判准不准，小周的修改记录反过来当裁判标尺；设计的细节成了度量的依据，这是把信任当设计题做的额外回报。

回看本章三件事在这一单上的分布，透明度是角标和标签，控制是核对栏和驳回回流，期望管理是“未查明照写”，外加对管理层的一句实话，初稿是可用的底稿，方向仍要人核。还有一件事要记着，三件套管的是信任的建立，管不了信任的崩塌；周报也会错，而且总有一天会错得难看，某一周归因方向错了，店长照着调了订货，怎么办，那是第 10 章的主题。

本章小结

• 9.1 信任的规律。初始刻度天然不准，参差的前沿让难度标尺失灵，ELIZA 效应让投射虚高；建立慢，靠一串可验证的经历攒，崩塌快，好事按次记、坏事按类记，一次大错清空，重建比初建更慢；头几次体验求表里如一，不求惊艳。
• 9.2 透明度。答用户三问，三层翻译，过程翻成计划与四档分层进度，依据翻成跟结论走的可点角标，原因翻成说人话的归因；把握程度不用数字，查到的与推测的分开摆，证据不够摆候选；生成标识是中文环境的硬性要求，记忆可见同属透明度。
• 9.3 控制。三处控制点，事前确认贴着不可逆动作，事中暂停答得上三句话、改了能续跑，事后纠正让结果可编辑、动作可回滚、纠正入口一步到；控制密度跟着可逆性走，控制感的本质是用户确信随时能拦下来、能改回来。
• 9.4 期望管理。一条底线，嘴上说的跟手上做的对齐；四个地方，宣传、销售、界面、合同；承诺从评测的数字里来，不往形容词里去；行为会漂，口径跟着版本走。
• 9.5 信任三件套。结论角标、分级标注、常驻核对栏；数字先过自动核对，未查明单列一行；落款“智能体起草，小周核签”；老陈那一句“肯说不知道的，头一回”，是信任积累的第一笔。

本章的结论一句话，智能体产品的信任，靠营销攒不出来，靠设计挣得出来。工程姊妹卷里有个生产化案例算过时间成本，demo 一个下午就跑通了，走到生产整整十九周，时间的大头花在让它值得信这件事上；模型的能力是买来的，敢不敢用，是设计出来的。第 10 章讲信任的考验，错误怎么分类、兜底怎么做、责任怎么分。

试一试

三步，约四十分钟，不用写一行代码。

第一步，选靶子。挑一个正在用或正在评估的智能体产品，对话助手、编码 Copilot、业务 Agent 都行。

第二步，问三个它答不了的问题，一类一个。一个只有自己公司才知道的内部事实（某条流程的第几步、某个内部数字）。一个发生在它知识截止日期之后的新事件。一个本来就没有答案的问题（一个虚构的名词、一件不存在的事）。

第三步，验透明度。对每个回答记四项。答没答（承认答不了算过）。装没装（编了像模像样的答案算不过）。出处给没给（给了、点开还真是原始出处才算过）。改口快不快（追问一句“依据是什么”，看它是给证据还是嘴硬）。顺手加验两样。中途能不能停（发一个长任务，试试点暂停，看进度丢不丢）。宣传语对不对得上（把产品介绍页抄三条，跟刚才的体验对一遍，落差一行一条）。

交付物是一张五列小表，问题、答没答、装没装、出处、改口。这张表做完，透明度设计就从书上的三层翻译，变成了可以拿去评审会上对着任何一家供应商拍的手艺。

参考资料

• 《Designing AI Interfaces》（Louise Macfadyen，O'Reilly 2026）第 1 章（ELIZA 的来历与秘书逸事、ELIZA 效应的定义：把理解与情感投射给只会模拟语言的系统；用户四假设：事实性、一致性、全知、无偏；极简对话界降低错位信任的门槛、媒体炒作抬高预期），见 txt/designing-ai-interfaces.txt（英文原文，第 1 章行 719-770、865-924）
• 《Designing AI Interfaces》前言（干净极简的对话界面掩盖概率性、制造错位信任；置信百分比是假精确、造出的是制造出来的信任而非真透明；等待状态是设计面；计划可见建立的是可预期的行为），见 txt/designing-ai-interfaces.txt（英文原文，行 260-378）
• 《Designing AI Interfaces》第 5 章（输出不是答案而是设计物；可验证性：2023 年美国律师引用六个编造判例、罚款五千美元案；过度信赖的心理机制：确认偏误与顺序效应、解释越细有时越盲信，微软 Aether 团队综述六十余项研究；模型的置信百分比不可检验，界面应引向可独立验证：出处、证据或人工复核；逐条主张挂原始出处的问答产品样式；AI 生成内容的标识与来源披露），见 txt/designing-ai-interfaces.txt（英文原文，第 5 章行 4455-4570、4742-4868、5190-5293）
• 《Designing AI Interfaces》第 6 章（计划先行：动手前亮理解、批准即约定，几秒的预览拦下错方向；分层进度呈现：通知、概览、明细、全记录四层；检查点、权限、编辑、来源让连续计算可查可纠；共享控制：随时可停且停得住、暂停态答三句话、可回滚让委托变安全、控制粒度可随经验调整；审批送审条目须自带上下文），见 txt/designing-ai-interfaces.txt（英文原文，第 6 章行 6258-6300、6386-6453、6454-6600）
• 《构建 Agentic AI 系统》第 8 章（生成式 AI 系统的信任机制：AI 生成内容明确标记、数据来源与背景披露、负责任使用指南；不确定性以多方案并陈呈现而非硬凑单一答案；用户控制权与同意权是信任的组成部分），见 txt-ref/构建AgenticAI系统/06-第8章 构建生成式AI系统的信任.txt
• 《悟道智能体开发》（本书工程姊妹卷）第 15 章（人机协同四种形态：工具审批、澄清请求、里程碑确认、暂停恢复；四条 UX 原则：能力发现、成本感知的行动委托、可观测性与来源可溯、可中断；审批疲劳的监测：通过率居高且审阅时长缩短；生产化案例十九周的时间大头花在让它值得信上；生成内容标识办法在企业侧的落地，本章 9.3/9.5 的知识底本，产品向转述），工程深挖按该书对应章指引
• Dell'Acqua, F. 等《Navigating the Jagged Technological Frontier》（哈佛商学院工作论文 2023，七百多位波士顿咨询公司顾问的田野实验，任务分设模型能力界内与界外；参差的前沿提法出处；后刊于 Organization Science），https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4573321 ，核实于 2026-09-18
• 国家网信办等四部门《人工智能生成合成内容标识办法》（2025 年 3 月公布、2025 年 9 月 1 日施行）及配套强制性国家标准 GB 45438-2025《网络安全技术 人工智能生成合成内容标识方法》（同日施行，显式与隐式两层标识、文本图片音视频虚拟场景五类内容、提供者与传播平台义务），https://www.cac.gov.cn/ ，核实于 2026-09-18