[{"data":1,"prerenderedAt":327},["ShallowReactive",2],{"PortalFooter_QX9Sj6L0jYa0f3sHh8puk8D6pkI69QhELaa1ZMuWxNo":3,"portal-theme-ai-zh-all":10,"PostCard_Q2tdhHfZKr47yNkcHCzNCkuhzQCKaVfdZiyAP87A":194,"PostCard_aCqkegqFEBYvJlCUNmlGS4lq0Krsk0b9XgWMY1Q3To":201,"PostCard_JxJ9GRCr9q1bxWCtgqwM1mSH77CWzh80kN3qKrg380":208,"PostCard_FpMLoyewZuf7Mi2ugbJt4exv2wKneeYiYt24b8alxs":215,"PortalBreadcrumb_IHdT6e2F6mzrncUnf38XvHswxVFZU98ycdGD9nkcHQ":222,"PostCard_IHdVQ1ccFcCi1Ii6FSLcITua4PwZPu28e3KHLHV3A":229,"PostCard_9JhPOHUGxI9OBmwCD4JdvKhzSHRS2ZmoRwMMzjeI":236,"PostCard_RAA9XxcSoFrBuQ0uy0GAZA4Utrl72SGDslMsintZ4F4":243,"PostCard_MCdM8uPKfyLAsuJQvx8SQy7mH2ggIw3g1hrJd8L4VSw":250,"PostCard_cl9oPLLBH49wWvjEMJIZerxrudrUYqd6PJlXE3SPsEc":257,"PostCard_c54j7Tm4FtrnbWUY5D7xSFjuppRWZANwWiLiLAoLEk":264,"PostCard_x6dtFQiBEmCye6IPguyIMK6zK20KlF5sHjVP3s6t4":271,"PostCard_KlfzCpqp8fgcrXlP31Mzt1T7HA5xajUEFhbLPSyY6q4":278,"PostCard_ZcM4SMlfTT5oin9iB3PpDcY0N7iwnKAVk3QtvPOrU":285,"PostCard_jImDaUqIeKXl44lKHw5E0hsvOgxS9XCXuSn6eUa0XY":292,"PostCard_WMpi04xPCwBWRwqA4TG9xNbyKWibKzUnRPXriEb94":299,"PostCard_Mew6jb8XkVwyi1f2ElGxWhmx92jJmTM0Spm9UfTh8":306,"PostCard_QDfcdBWBWYT8UyNw55NVUg3wJpSiX3RKiFEMylE0Nxc":313,"PostCard_lIH81AIi0XDsTGnwrvcEmAvOvx6chVmRfeWncwn4":320},["Island",4],{"key":5,"result":6},"PortalFooter_QX9Sj6L0jYa0f3sHh8puk8D6pkI69QhELaa1ZMuWxNo",{"head":7},{"link":8,"style":9},[],[],[11,28,38,48,58,68,78,87,96,105,114,124,134,144,154,164,174,184],{"id":12,"locale":13,"slug":14,"type":15,"title":16,"summary":17,"content_html":18,"video_url":19,"cover_url":20,"author":21,"category":22,"status":23,"source_job_id":24,"published_at":25,"created_at":26,"updated_at":27},4591,"zh","agent试点验收-七类失败复盘表","article","Agent试点验收：七类失败复盘表","读完可拿到七类失败归因表、三张验收清单和放权阈值，按步骤先跑只读试点，再决定哪些自动执行。","\u003Csection data-gzh-readable=\"1\" style=\"margin:0;padding:0;\">\u003Cdiv data-gzh-header=\"1\">\u003Cp style=\"font-size:15px;color:#888;text-align:center;margin-top:8px;\">读完可拿到七类失败归因表、三张验收清单和放权阈值，按步骤先跑只读试点，再决定哪些自动执行。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\u003Cp style=\"font-size:14px;color:#999;text-align:center;margin-top:4px;\">作者：进学斋 · 观山书院\u003C\u002Fp>\u003Cp style=\"font-size:13px;color:#999;text-align:center;margin:0 0 6px 0;\">全文约3633字 · 阅读约需13分钟\u003C\u002Fp>\u003Chr style=\"border:none;border-top:1px solid #eee;margin:24px 0;\" \u002F>\u003C\u002Fdiv>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">最近不少团队把 AI Agent 放进真实流程：客服工单、运营巡检、数据整理、内部审批。Demo 很顺，一到多人、多系统、长时间运行就出问题。表面看是效果不稳定，真正卡住的是失败信号没有被拆开。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这篇给一套验收方法：七类失败复盘表、三张清单、三天只读试点、分级放权。你可以按步骤先跑只读试点，再决定哪些动作自动执行。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">一、先把失败讲清楚：七类信号决定要不要继续\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">1. 任务理解偏移：它做成了另一个任务\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">用户要整理客诉并生成回复草稿，Agent 只做了分类。用户要补全字段，Agent 改写了整段文案。偏移的根源常在目标拆解，不在模型本身。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以看一次通过率、人工介入率和低质量输出占比。若同一个意图经常走偏，先改任务模板和验收字段，再考虑提示词。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">2. 上下文丢失：关键依据没跟到下一步\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">多轮任务里，前面的约束、客户等级、预算口径、历史处理结论，到工具调用阶段被丢掉。结果看着合理，经不起复核。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">观察上下文引用次数、关键字段正确率、任务耗时。如果重复查询和重复确认变多，说明链路没有把依据传下去。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">3. 工具越权：不该做的动作被做了\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">读接口变写接口，草稿变发送，查询变删除。这类问题比回答错误更危险，因为它直接改变外部状态。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">记录敏感动作命中数、工具调用入参、调用者身份、目标系统。发现越权先收窄工具白名单，而不是补一句不要删除。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">4. 结果不可验：输出漂亮，但无法追溯\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">Agent 给出结论，却没有留下依据来源、计算口径、工具返回值、置信提示。业务同学不敢签，工程同学难复现。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">验收要看关键字段正确率、依据链路完整率、用户是否接受结果。没有可验字段，就不能把动作交给自动流程。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">5. 成本失控：一个任务跑成了循环\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">重复检索、反复总结、模型多次调用、工具多次请求，单任务成本持续上涨。团队只盯 token，容易漏掉耗时、重试、人工复核。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">跟踪重复调用次数、任务耗时、错误恢复时间、单位任务成本趋势。成本异常往往是流程有环，先断环再扩容。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">6. 审批缺失：自动动作绕过人\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">高风险动作没有审批位，或者审批只是走形式。真正出问题时，责任链断裂，复盘也找不回当时为什么放行。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">检查审批缺失率、外部写入动作命中数、审批记录保留期限。审批不是加一个按钮，而是给每个高风险动作绑定人和理由。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">7. 回滚缺位：改出去收不回来\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">改文档、发消息、更新工单、调整配置，失败后没有回滚 ID、没有补偿动作、没有兜底模板。一次成功，可能掩盖下一次事故。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">记录回滚责任人、错误恢复时间、幂等性、审计 ID。写操作若不能回滚，只允许在低影响范围试点。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 先采集运行日志，再判断问题在模型、提示词、工具还是流程。\u003C\u002Fem>\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">不要一上来就换框架、扩权限或加提示词。先让失败可观测，团队才有讨论基础。\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fsz_mmbiz_jpg\u002F4WyfSFibfkROMdibe5hjUkfGygfhy7nUib2bicXAV0oicfMrpdCPHs1NaYib56OA6H166X6IVxU9xib3DlnNuy5icy5bxiaONJ9iaQ9yGpAoR7bgTjfJ0\u002F0?from=appmsg\" alt=\"配图·湖光暮色\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·湖光暮色\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">二、定义验收口径：用三张清单替代看起来可用\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">1. 业务验收清单\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">业务侧只问结果能不能用。你可以固定五项：任务目标完成率、关键字段正确率、用户是否接受结果、低质量输出占比、人工复核比例。每项都要说明口径。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">比如关键客诉字段包含客户身份、诉求类型、责任团队、处理时限。缺一项，就不算完成。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">2. 工程验收清单\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">工程侧要能复现、能追踪、能止损。你可以固定：超时率、重试次数、幂等性、日志字段完整性、依赖服务错误码、调用链路耗时分布。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">日志至少包含 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">task_id\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">run_id\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">agent_version\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">tool_name\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">input_hash\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">output_hash\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">duration\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">error_code\u003C\u002Fcode>。\u003C\u002Fp>\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">event: agent.plan\u003Cbr>task_id: T-1024\u003Cbr>run_id: R-77\u003Cbr>user_intent: 整理客户投诉并生成回复草稿\u003Cbr>planned_steps: retrieve, summarize, draft\u003Cbr>tool_call: search_tickets status=open\u003Cbr>risk_level: read_only\u003Cbr>approval_required: false\u003Cbr>idempotency_key: T-1024-R-77-search-001\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这段日志不是为了好看，是为了三天试点后能归因。若只有结果没有过程，复盘会变成猜。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">3. 安全合规清单\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">安全侧重点不是模型能力，而是动作边界。你需要检查：敏感数据暴露、外部写入动作、删除\u002F支付\u002F发布类操作审批、审计记录保留期限、回滚责任人。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">对客外发、资金变更、生产配置修改、删除记录，默认不进自动执行。即使业务催得紧，也只先在沙箱或影子系统跑。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">可执行检查清单\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 建立 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">task_id\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">run_id\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">agent_version\u003C\u002Fcode> 三键日志，确保每次执行可追踪。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 为每个工具调用记录输入摘要、输出摘要、耗时、错误码和幂等键。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 把外部写入、删除、支付、发布、对客外发动作放入默认拦截名单。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 给业务验收字段写明定义、口径、复核人，不接受模糊评价。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 为失败样本设置每日复盘池，问题未关闭前不扩大调用范围。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 每个高风险动作绑定审批人、理由字段、回滚责任人和审计 ID。\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkROLjnzBJj8d98qdiarGGqdU4mMiaDpmBha8u2wBO4iarb53DmcMrPZDYNXwnWqlEtV3bGrj9IepTv4vQQGzfyxvyiaZaRhjG35uQQY\u002F0?from=appmsg\" alt=\"配图·晨雾山色\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·晨雾山色\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三、跑只读试点：三天量出能力边界\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第一天：只记录，不执行\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第一天让 Agent 只做影子运行。它接收输入，生成计划，记录工具调用意图、输出草案和失败提示。实际系统不被修改。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你要确认三件事：它是否理解目标，是否知道边界，是否能把计划说得清楚。若计划里出现删除、外发、支付，直接打回。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第二天：只放低危动作\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第二天允许查询、摘要、草稿生成、格式转换。禁止跨系统写入、外发、删除、资金类操作。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">重点看动作是否可重复、是否可撤销、是否产生真实状态变化。只要会影响别人，就退回人工确认。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第三天：失败归因与三档分类\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第三天把任务按七类信号打标签。每个动作分成三档：自动执行、人工审批、必须禁用。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">自动执行适合低危、可重复、只读、影响小的动作。人工审批适合中高风险写入和边界模糊动作。必须禁用适合不可验、不可回滚、越权倾向明显的动作。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">据公开资料\u002F行业观察，团队常见问题是把 Agent 一次性接到完整业务流程。更稳的做法是先跑影子日志，再逐步开放低危动作。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 试点不是证明它聪明，而是找出它什么时候不该被信任。\u003C\u002Fem>\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">四、按风险放权：用分级执行把兜底写进流程\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">1. 动作风险乘以影响范围\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">不要按任务名称放权，要按动作风险。低风险只读可自动，中风险写入需确认，高风险外发或变更需人工审批。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">失败信号\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">典型症状\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">先查什么\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">治理动作\u003C\u002Fth>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">任务理解偏移\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">输出和原目标不一致\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">任务模板、验收字段\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">重写任务拆解，加目标校验\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">上下文丢失\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">约束被遗忘，重复确认\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">字段传递、检索引用\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">固定上下文字段，增加计划前检查\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">工具越权\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">读变写，草稿变发送\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">工具白名单、调用身份\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">收窄权限，敏感动作拦截\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">结果不可验\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">无依据、无口径、难复现\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">关键字段、依据链\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">补齐来源和审计字段\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">成本失控\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">重复调用、长链路堆积\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">重试、耗时、成本趋势\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">设超时和熔断，拆小任务\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">审批缺失\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">绕过人或审批形同虚设\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">审批记录、责任链\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">高风险动作绑定审批人和理由\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">回滚缺位\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">改出去收不回\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">幂等键、回滚责任人\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">无回滚不放量，先禁用\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftable>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">表格可以放在验收会议首页。讨论时别问效果怎么样，先问命中了哪类失败。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">2. 写操作三件套\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">所有写操作必须具备幂等、可回滚和审计 ID。同一用户同一任务重复失败时，优先熔断，而不是继续重试。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">幂等键可以设计成 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">user_id + task_id + action_id\u003C\u002Fcode>。回滚字段可以记录 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">previous_state\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">restore_point\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">owner\u003C\u002Fcode>。审计 ID 让人工干预可追溯。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">3. 兜底通道要提前准备\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">给 Agent 准备四条路：超时回退模板，失败转人工，敏感动作拦截，异常样本进入每日复盘池。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">兜底不是失败后的补丁，而是流程的一部分。没有兜底的自动化，本质是把风险交给运气。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">五、上线后迭代：用复盘表持续收紧边界\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">1. 每周汇总失败样本\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">每周把七类失败样本归并一次。更新提示词、工具描述、路由规则和验收阈值。问题不能靠临时补提示词掩盖。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果同一任务反复命中工具越权，改工具权限。如果结果不可验，补字段。如果成本失控，设调用上限和熔断。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">2. 灰度对比四组指标\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">小范围灰度批次时，你可以对比四组指标：一次通过率、人工介入率、单位任务成本、错误恢复时间。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">指标变稳再扩大调用范围。指标波动时，先缩权限。放权顺序应是：只读查询、草稿生成、低危写入、外部写入、高风险审批动作。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">3. 形成版本化验收记录\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">每次上线都要留下记录：本次改了什么，为什么改，哪些动作从审批降为自动，哪些仍保持人工兜底。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">版本化记录能避免两个团队重复踩坑。也让 Agent 试点从口头可用变成可交接的工程资产。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三句话讲透\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">先记录再放权。没有日志和归因，所有乐观都容易变成事故。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">先验收再上线。没有三张清单，Agent 的聪明只是局部表演。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">先兜底再自动化。没有熔断、回滚和审批，团队不敢把真实流程交给它。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以今晚就做三件事：给当前试点补 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">task_id\u003C\u002Fcode> 日志；把删除、外发、支付动作放进默认拦截；用三天试点把动作分成自动、审批、禁用三档。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这篇适合转发给负责 Agent 试点的工程、产品和安全同学。建议收藏，下次验收直接对着清单过。\u003C\u002Fp>\u003C\u002Fsection>\n\u003Csection class=\"portal-disclaimer\" data-portal-disclaimer=\"1\" style=\"margin-top:2.5em;padding-top:1.25em;border-top:1px solid #e8e4dc;font-size:14px;line-height:1.7;color:#7a756c;\">\u003Cp style=\"margin:0;\">免责声明：本文内容整理自公开网络资料，仅供学习交流参考，不代表观山书院立场。如涉及版权侵权，请联系我们删除。\u003C\u002Fp>\u003Cp style=\"margin:0.75em 0 0;\">联系邮箱：\u003Ca href=\"mailto:chenxj.g@gmail.com\">chenxj.g@gmail.com\u003C\u002Fa>\u003C\u002Fp>\u003C\u002Fsection>","","https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg","进学斋","ai","published",3491491,"2026-09-29T20:53:49+08:00","2026-09-29T21:12:09.721151+08:00","2026-09-29T21:35:02.874441+08:00",{"id":29,"locale":13,"slug":30,"type":15,"title":31,"summary":32,"content_html":33,"video_url":19,"cover_url":20,"author":21,"category":22,"status":23,"source_job_id":34,"published_at":35,"created_at":36,"updated_at":37},4589,"agent观测回滚-落地实战清单","Agent观测回滚：落地实战清单","读完可拿到Agent运行期观测字段清单和错误分级回滚表，先小流量记录、再逐步放权。","\u003Csection data-gzh-readable=\"1\" style=\"margin:0;padding:0;\">\u003Cdiv data-gzh-header=\"1\">\u003Cp style=\"font-size:15px;color:#888;text-align:center;margin-top:8px;\">读完可拿到Agent运行期观测字段清单和错误分级回滚表，先小流量记录、再逐步放权。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\u003Cp style=\"font-size:14px;color:#999;text-align:center;margin-top:4px;\">作者：进学斋 · 观山书院\u003C\u002Fp>\u003Cp style=\"font-size:13px;color:#999;text-align:center;margin:0 0 6px 0;\">全文约3580字 · 阅读约需12分钟\u003C\u002Fp>\u003Chr style=\"border:none;border-top:1px solid #eee;margin:24px 0;\" \u002F>\u003C\u002Fdiv>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">最近几个 Agent 项目进入运行期，问题开始变复杂：模型回答看起来不错，流程却跑不稳。不是少一个提示词，就是权限太大、成本太高、错误没人发现。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这篇只讲上线后的运行期数据治理。你可以拿到四张观测看板、三档回滚动作、一份七天落地步骤。先小流量记录，再逐步放权。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">一、落地卡点：从模型会答到系统可管\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">很多团队把 Agent 接上工具后，默认「能调用」就等于「能上线」。实际故障很少停在答案文本上，更多出现在工具调用链断裂、权限越界、成本失控和人工接管失控。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">比如查询工具返回空值，Agent 继续生成结论；写回接口超时，任务被重复执行；敏感操作没有审批，直接进入生产账号。这类问题靠临时改提示词很难根治。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">运行期要做的是把每次执行变成可追踪对象。先定义稳定执行：任务可追踪、错误可停止、成本可回滚。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">可追踪：一次任务必须有身份\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">没有 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">task_id\u003C\u002Fcode> 和 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">trace_id\u003C\u002Fcode>，Agent 调用就像匿名请求。你不知道它属于哪个岗位、哪个流程、哪一批用户。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">每次调用至少记录：任务身份、场景、输入摘要、提示词版本、模型版本、开始时间和状态。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">可停止：错误必须分级\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">不是所有错误都继续重试。参数校验失败可以提示用户修正；工具连续失败要熔断；权限未审批要直接停止。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">停止条件要写在系统里，不是靠运营盯屏。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">可回滚：动作要有退出路径\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">Agent 如果只生成文本，回滚简单。一旦写库、发消息、改工单，就必须知道回滚点在哪里。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">可回滚不是每次撤销，而是保证错误不扩散。\u003C\u002Fp>\u003Cp align=\"center\" style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 看得见，才谈得上管得住\u003C\u002Fem>\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkRNicSJdZqVvCiasq28Q9qpTaIzccpTIdMFMV6CG1VdagjPZLT84B1Yicz5ppSlAZAShzH8OIJJ570JSEorQEyRGSLus3EPRJJYnLM\u002F0?from=appmsg\" alt=\"配图·山谷柔绿\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·山谷柔绿\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">二、观测模型：四张数据看板\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">不要把所有日志堆成一张表。Agent 运行期至少要拆成四张看板：请求、工具、成本质量、审计。每张看板回答不同问题。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">请求看板：任务是否被正确触发\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">它记录请求来自谁、属于什么任务、为什么触发。适合排查这个 Agent 为什么开始跑。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以先收集一组字段：\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">task_id\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">scene\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">input_digest\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">prompt_version\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">status\u003C\u002Fcode>。字段不在多，关键能串起来。\u003C\u002Fp>\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">trace_id=agent-ticket-001\ntask_id=ticket-8827\nscene=ticket_first_reply\ninput_digest=order_delay_customer_question\nprompt_version=ticket_reply_v3\nstart_time=2026-09-29T10:20:00\nstatus=success\u003C\u002Fcode>\u003C\u002Fpre>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">工具看板：链路在哪里断掉\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">工具看板比答案看板更重要。它记录调用顺序、返回码、耗时和失败节点。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">建议按 step 展开：第 1 步查询订单，第 2 步读取知识库，第 3 步生成草稿，第 4 步写回工单。如果第 3 步没有写回，问题在工具层，不在模型层。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">字段：\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">step_no\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">tool_name\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">args_digest\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">return_code\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">latency_ms\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">retry_count\u003C\u002Fcode>。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">成本与质量看板：值不值得继续放权\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">Agent 不是越自动越好，要算账。Token 用量、工具接口费用、人工接管率、重复提问率，都会决定能不能扩大流量。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">质量指标不要只看准确率。可以看一次完成率、人工修正次数、重复触发次数、最终是否进入业务系统。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">字段：\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">tokens_in\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">tokens_out\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">tool_cost_estimate\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">manual_takeover_reason\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">repeat_question_count\u003C\u002Fcode>。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">审计看板：谁批准了什么动作\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">涉及工单关闭、客户通知、退款申请、库存调整时，审计必须独立成看板。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">它记录敏感操作、审批人、执行结果、是否回滚。审计不是给模型看，是给流程看。\u003C\u002Fp>\u003Cp align=\"center\" style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 回滚不是倒退，是保留继续跑下去的资格\u003C\u002Fem>\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fsz_mmbiz_jpg\u002F4WyfSFibfkRMBOBM1DicBljibhC3e83iaaT74NwgoO06223ibzZsRbHtgsXfCgp4pEpRIZX9A2WOh9PY4pW622DbAYVMfFWvjXzznsnYqkMvPwGA\u002F0?from=appmsg\" alt=\"配图·静湖云烟\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·静湖云烟\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三、回滚机制：三档动作分级\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">很多团队回滚靠感觉危险。真正上线需要三档动作：只读观察、影子执行、最小闭环。每一档都有权限边界和触发条件。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">只读观察：先记录，不动业务\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">只读观察适合新场景第一周。Agent 可以规划、查询、生成草稿，但不能写生产库、不能对外发消息。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">目标不是替代人工，是拿到执行链路证据。你可以问自己：没有写入权限时，它能不能稳定产出可审计记录？\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">影子执行：并行跑旧流程\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">影子执行适合已有稳定人工流程。Agent 和原系统同时处理同一批任务，结果只比对，不生效。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">重点看差异：Agent 是否多调工具、是否引用错资料、是否生成不可执行结论、是否触发敏感动作。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">最小闭环：低风险自动，高风险确认\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">最小闭环可以放行低风险动作：查询、内部草稿、状态预览、非关键通知。高风险动作必须保留确认：支付、删除、改权限、对外承诺、合同条款变更。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">低风险和高风险不是业务主观词，要按影响面分级：是否改变资产、是否触达客户、是否跨越权限、是否难以撤销。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Cthead>\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">档位\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">适用阶段\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">动作范围\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">触发条件\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">自动回滚动作\u003C\u002Fth>\u003C\u002Ftr>\u003C\u002Fthead>\u003Ctbody>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">只读观察\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">新场景试运行\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">查询、记录、生成草稿\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">字段可追踪，无业务写入\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">保留日志，不影响旧流程\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">影子执行\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">已有流程替代评估\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">并行处理，结果比对\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">差异可解释，不直接生效\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">差异过大时暂停比对任务\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">最小闭环\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">小流量放行\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">低风险自动，高风险确认\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">有审批点、有熔断阈值\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">自动暂停工具调用并转人工\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftbody>\u003C\u002Ftable>\u003Cp align=\"center\" style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 先把边界钉住，再谈放权\u003C\u002Fem>\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">四、七天落地步骤\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">别一次性把 Agent 接满所有流程。七天可以完成一次可控试点。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第一天：选一个低风险岗位任务\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">选工单预处理、知识库引用草稿、会议材料汇总这类任务。明确成功指标：一次完成率提升、人工修正减少、成本可控。明确停止条件：连续工具失败、未审批敏感动作、重复提问升高。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">不要从支付、投诉、法务文书开始。高风险任务需要多轮审批和更完整审计。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第二天：打通日志字段\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">让每次调用可追踪。最少补齐 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">trace_id\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">tool_name\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">return_code\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">manual_takeover_reason\u003C\u002Fcode>。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果日志只有自然语言摘要，后续定位很难。结构化日志是运行期治理的地基。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第三到四天：做影子执行\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">让 Agent 和旧流程同时处理一批任务。记录差异：Agent 是否漏查字段、是否误调用工具、是否产生不可确认结论。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">人工接管原因要归三类：提示不清、工具失败、业务规则变化。不要只记效果不好。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第五到七天：按回滚清单灰度放行\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">先放行一小部分任务，不是一下全量。按档位检查：低风险动作可自动，高风险动作必须审批。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">设置自动暂停阈值：同一工具连续返回失败码、未审批敏感动作被触发、成本预算超限、重复提问明显升高。触发后自动降级到只读观察或影子执行。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">上线前检查清单\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 每个任务都有 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">task_id\u003C\u002Fcode> 和 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">trace_id\u003C\u002Fcode>。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 工具调用顺序可重放，失败节点可定位。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 成本字段能估算 Token 与工具费用。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 人工接管率与重复提问率有看板。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 敏感操作有审批人和执行结果记录。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 有只读观察、影子执行、最小闭环三档开关。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 有自动暂停条件和回滚路径，而不是只靠人工发现。\u003C\u002Fp>\u003Cp align=\"center\" style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 稳定不是少犯错，是错误发生时不扩散\u003C\u002Fem>\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">五、常见坑与选型\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第一个坑：只看单次准确率。模型答得像模像样，不代表工具链可用。一个参数错，可能让后续查询、写回、通知全部跟着错。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">更稳的指标是链路完成率：Agent 是否从输入走到可审计输出。单次准确率适合离线评估，不适合运行期治理。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第二个坑：把 Agent 接进权限过大的生产账号。工具权限最小化比提示词安全更可靠。能只读就不要写，能草稿就不要发送，能预览就不要提交。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">行业实践中常见做法是给 Agent 单独创建受限身份，并走审批队列。敏感动作可以由 Agent 准备材料，由人或审批系统确认执行。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第三个坑：观测字段太少。只有答案，没有 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">tool_name\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">return_code\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">args_digest\u003C\u002Fcode>，就无法判断失败来自提示、工具还是数据。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">建议至少保留三类标识：请求身份、工具身份、错误身份。没有错误身份，系统就不知道什么时候暂停。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第四个坑：回滚只靠人工发现。运行期故障通常很快，人工盯屏会漏。必须设置自动暂停：工具连续失败、成本超预算、敏感动作未审批、重复提问升高。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第五个坑：把回滚等同于删除数据。回滚不一定物理撤销，重点是阻断扩散、保留证据、转人工。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">选型建议：观测平台怎么选\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果你已有日志平台，不一定要新建复杂中台。先满足三件事：结构化日志、调用链追踪、阈值告警。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">可以按优先级选择能力：第一步补日志字段；第二步做 trace 重放；第三步做成本与质量指标；第四步接入审批和回滚。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">不要一开始追求全自动化。据公开资料和行业观察，稳定 Agent 试点往往先解决记录和归因，再逐步扩大自动动作范围。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三句话讲透\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">先可观测，再可回滚，最后可放权。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">没有观测，放权就是赌运气。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">落地不是追求全自动，而是让 Agent 在可控边界里稳定产生价值。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果团队正在准备 Agent 上线，建议先把四张看板字段、三档回滚表、七天落地清单拿去评审。也欢迎收藏或转发给研发、运营和风控同事，少一点临时救火，多一点可追踪执行。\u003C\u002Fp>\u003C\u002Fsection>\n\u003Csection class=\"portal-disclaimer\" data-portal-disclaimer=\"1\" style=\"margin-top:2.5em;padding-top:1.25em;border-top:1px solid #e8e4dc;font-size:14px;line-height:1.7;color:#7a756c;\">\u003Cp style=\"margin:0;\">免责声明：本文内容整理自公开网络资料，仅供学习交流参考，不代表观山书院立场。如涉及版权侵权，请联系我们删除。\u003C\u002Fp>\u003Cp style=\"margin:0.75em 0 0;\">联系邮箱：\u003Ca href=\"mailto:chenxj.g@gmail.com\">chenxj.g@gmail.com\u003C\u002Fa>\u003C\u002Fp>\u003C\u002Fsection>",3491490,"2026-09-29T20:49:00+08:00","2026-09-29T21:00:41.902383+08:00","2026-09-29T21:35:01.7603+08:00",{"id":39,"locale":13,"slug":40,"type":15,"title":41,"summary":42,"content_html":43,"video_url":19,"cover_url":20,"author":21,"category":22,"status":23,"source_job_id":44,"published_at":45,"created_at":46,"updated_at":47},185,"agent落地-运行闭环七步法","Agent落地：运行闭环七步法","读完能搭建智能体上线后的监控、告警、人工接管、回滚与评测闭环，并用两周试点判断继续、降级或停止。","\u003Csection data-gzh-readable=\"1\" style=\"margin:0;padding:0;\">\u003Cdiv data-gzh-header=\"1\">\u003Cp style=\"font-size:15px;color:#888;text-align:center;margin-top:8px;\">读完能搭建智能体上线后的监控、告警、人工接管、回滚与评测闭环，并用两周试点判断继续、降级或停止。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Cp style=\"font-size:14px;color:#999;text-align:center;margin-top:4px;\">作者：进学斋 · 观山书院\u003C\u002Fp>\u003Cp style=\"font-size:13px;color:#999;text-align:center;margin:0 0 6px 0;\">全文约3943字 · 阅读约需14分钟\u003C\u002Fp>\u003Chr style=\"border:none;border-top:1px solid #eee;margin:24px 0;\" \u002F>\u003C\u002Fdiv>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">最近跟几个做智能体交付的团队复盘，现场 demo 大多漂亮：能总结、能查库、能填字段。可一旦接到真实请求，工具超时、权限误拒、输出漂移、人工接管找不到责任人，问题就露出来了。这不是提示词不够华丽，而是运行闭环没有建立。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这篇只讲上线后的运行闭环：正常、降级、熔断怎么划；失败怎么回放；监控怎么最小可用；人工接管、评测回归、回滚包怎么准备；最后用两周试点判断继续、降级或停止。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">据行业观察，多数智能体事故不是单一模型错，而是运行边界没有提前划清。闭环建好，才能少靠临时救火。\u003C\u002Fp>\n\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">一、先划运行状态表：正常、降级、熔断\u003C\u002Fh2>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">很多团队把智能体状态简化成成功或失败。生产里，失败往往是逐步扩大的。一个解析错误可能先导致字段缺失，再触发工具重试，最后把成本拉高。状态表的意义，是让系统知道什么时候继续、什么时候降权、什么时候停止。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">状态表要回答四件事\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">它要定义进入条件、系统动作、恢复条件和责任人。没有这四项，值班人员只能凭感觉。下面这张表可以直接改成你们团队的版本。\u003C\u002Fp>\n\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\n\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">状态\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">进入条件\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">系统动作\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">恢复条件\u003C\u002Fth>\u003C\u002Ftr>\n\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">正常\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">核心工具可用，输出校验通过，成本在基线内，敏感操作已授权\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">低风险任务自动执行，中风险任务生成建议，高风险任务转审批\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">持续通过评测与监控，进入下一周期评审\u003C\u002Ftd>\u003C\u002Ftr>\n\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">降级\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">解析失败、工具报错或用户纠错连续上升，某类任务质量不稳定，成本异常增长\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">关闭高风险自动执行，保留只读查询、草稿建议和人工确认\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">连续观察窗内失败率回落，回归测试通过，负责人审批恢复\u003C\u002Ftd>\u003C\u002Ftr>\n\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">熔断\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">权限越界、关键依赖不可用、输出造成业务影响、成本或数据风险不可控\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">停用入口，保留证据，切回旧流程，通知负责人和受影响用户\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">根因已修复，事故复盘完成，小范围试点通过\u003C\u002Ftd>\u003C\u002Ftr>\n\u003C\u002Ftable>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这里有一个实操原则：降级不是把智能体变成摆设，而是把能力缩到可解释、可审计、可恢复的范围。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">三类任务权限先分清楚\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">上线前如果没写清楚权限边界，运行中就会出现模型建议退款、客服直接改单、用户没有确认就提交外部动作。至少分成三类：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">可自动执行\u003C\u002Fstrong>：知识库检索、材料摘要、工单初分类、字段抽取草稿、只读状态查询。要求输出可校验，且不直接改变外部状态。\u003C\u002Fli>\n\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">只能建议\u003C\u002Fstrong>：合同条款修改、费用解释、风险话术、跨部门流程推荐。需要人工确认后才能推进。\u003C\u002Fli>\n\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">必须审批\u003C\u002Fstrong>：退款、账号权限变更、数据删除、对外发送、资金操作、影响用户权益的写动作。必须保留审批人、理由和证据。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">关键输出要带证据字段\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">没有证据字段，群里只会留下一句“又出问题了”。证据要让人快速回答：输入从哪里来，工具返回什么，校验是否通过，失败在哪一层。\u003C\u002Fp>\n\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">input_source: ticket_id, doc_id, user_context_version\ntool_calls: retrieval_status, extraction_status, validation_status\noutput_check: schema_passed, safety_passed, business_rule_passed\nfailure_reason: plan_timeout, tool_error, permission_denied, user_correction\n\u003C\u002Fcode>\u003C\u002Fpre>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这些字段不一定都要展示给用户，但必须存在日志里。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>——状态表是控制面，证据日志是显微镜。\u003C\u002Fem>\u003C\u002Fp>\n\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkROdDNdbMQuptW8ogdgFPnJdzGnbEwAEXKeb6NmUrRcxgqkCV0g9eTkHU57XJbrodBxjX5DDzOvFeOvS5qxic8vAXcL9hTibLu7qk\u002F0?from=appmsg\" alt=\"配图·秋色温黄\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·秋色温黄\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">二、最小监控与证据清单\u003C\u002Fh2>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">监控不要一上来就做大盘。先抓五类失败，比总体准确率更能指导行动。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">先看五类失败\u003C\u002Fh3>\n\u003Cul>\n\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">解析失败\u003C\u002Fstrong>：字段没抽取出来，JSON 不符合模式，表格行列错位。问题常在输入格式和 schema 约束。\u003C\u002Fli>\n\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">规划超时\u003C\u002Fstrong>：任务拆解太长，多轮检索反复跳转，工具选择犹豫。问题常在任务边界和循环控制。\u003C\u002Fli>\n\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">工具报错\u003C\u002Fstrong>：依赖接口返回异常，权限过期，参数映射错。问题常在工具链和错误透传。\u003C\u002Fli>\n\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">权限拒绝\u003C\u002Fstrong>：智能体调用了不该调的动作，或访问了未授权数据。问题常在策略配置和审批链路。\u003C\u002Fli>\n\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">用户纠错\u003C\u002Fstrong>：用户明确说答非所问、依据不足、建议不可执行。问题常在任务价值和真实场景匹配。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">建立任务级日志\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">日志的目标是可回放。只要给一个 request_id，就能还原它调了哪些工具、用了哪个版本、卡在哪一层、有没有人工接管。字段不求全，但要求稳。\u003C\u002Fp>\n\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">request_id\ntask_type\nagent_version\nprompt_version\ntool_call_chain\nlatency\ncost\nvalidation_status\nfail_layer\nhuman_takeover_count\nuser_feedback_id\n\u003C\u002Fcode>\u003C\u002Fpre>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">设置可操作阈值\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">阈值不需要复杂模型，先覆盖会引发事故的变化。可以用固定窗口或滑动窗口，但每个阈值都要对应一个动作。\u003C\u002Fp>\n\u003Col>\n\u003Cli>同一任务连续失败达到预设次数，自动转建议模式，暂停写操作。\u003C\u002Fli>\n\u003Cli>敏感工具拒绝突增，冻结相关动作，检查权限映射和输入来源。\u003C\u002Fli>\n\u003Cli>成本相比历史基线异常上升，启用缓存、限频和短答案模式。\u003C\u002Fli>\n\u003Cli>人工接管和用户纠错连续上升，触发评测回归与回滚评估。\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">最小监控与证据清单\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 每个请求有唯一 request_id；\u003Cbr>☐ 每次工具调用有状态、耗时和错误码；\u003Cbr>☐ 每个失败能归到输入、规划、工具、输出、权限五层；\u003Cbr>☐ 每个降级开关有负责人；\u003Cbr>☐ 每个人工接管有审批记录和证据包；\u003Cbr>☐ 每个版本变更有旧入口和回滚路径；\u003Cbr>☐ 每条告警有明确动作，而不是只发通知。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>——闭环的意义，是让下一次异常不再靠临时救火。\u003C\u002Fem>\u003C\u002Fp>\n\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fsz_mmbiz_jpg\u002F4WyfSFibfkRP5WeeqJZQxz7mAH0BoQwyJMKcKP4sOtfgAIljZh9YTMqB0bVF1SKgREkNLmfricnn6MdyYpIeW1g6YRWhZOoflWgeuOuq5lXko\u002F0?from=appmsg\" alt=\"配图·江水竹影\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·江水竹影\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三、七步闭环：从告警到回滚\u003C\u002Fh2>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">七步闭环的目标是让告警变成可处置事件，不是让值班人自己猜。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第1到2步：小范围放量，先把复现能力建起来\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">先选择低风险流量、白名单用户或单一任务入口。旧入口必须保留，用户或客服能一键回到原流程。与此同时接入监控和日志。如果一个问题无法通过 request_id 复现，后面所有复盘都会变成争论。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第3到4步：失败回放，配置人工接管与敏感审批\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">告警触发后，不要急着改提示词。先做分层回放：\u003C\u002Fp>\n\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">replay task_id --layers input,plan,tool,output,permission\n\u003C\u002Fcode>\u003C\u002Fpre>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果输入本身缺失，优化上下文采集。如果规划反复绕圈，限制最大步数和工具选择策略。如果工具报错，补错误码透传和重试上限。如果输出违反规则，加 schema 校验和业务规则卡点。如果权限拒绝，重新划审批边界。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">人工接管不是简单转给人工，而是要给人工一个可决策的证据包：原始请求、关键工具结果、失败原因、建议动作、可点击审批入口。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第5到6步：每周评测回归，准备回滚包\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">评测回归至少包含三类样本：固定回归样本、对抗样本、业务验收样本。重点不是证明模型变强，而是确认改动没有把已有能力改坏。尤其看字段稳定性、拒答合理性、成本变化和人工接管率。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">回滚包要像部署包一样准备，不能只写“把模型切回去”。至少包含：\u003C\u002Fp>\n\u003Col>\n\u003Cli>开关路径：如何一键关闭自动执行。\u003C\u002Fli>\n\u003Cli>旧流程：原客服工单、原审批表单、原报告模板。\u003C\u002Fli>\n\u003Cli>负责人：产品、工程、业务、合规各自对接人。\u003C\u002Fli>\n\u003Cli>通知路径：内部值班群、用户公告、依赖方同步。\u003C\u002Fli>\n\u003Cli>数据修复：错误提交、重复草稿、过期上下文如何清理。\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第7步：按证据做三选一决策\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">运行闭环最终要落到决策：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">扩容保留\u003C\u002Fstrong>：任务失败率低，人工接管少，成本稳定，业务价值能被验收样本证明。\u003C\u002Fli>\n\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">降级运行\u003C\u002Fstrong>：有价值但依赖不稳，适合继续只读查询、建议生成或限定场景试点。\u003C\u002Fli>\n\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">直接下线\u003C\u002Fstrong>：风险高、收益弱、成本不可承受，或者问题长期无法归因。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">无论哪种，复盘都要写进版本说明。下一任值班人员需要知道：这个版本曾在哪里失败，边界在哪里。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>——把事故写成版本说明，是把经验沉淀成系统边界。\u003C\u002Fem>\u003C\u002Fp>\n\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">四、两周试点计划与常见坑\u003C\u002Fh2>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果没有完整平台，两周试点也能判断方向。关键不是上线多少功能，而是暴露多少真实运行问题。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第1到3天：选任务，写边界\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">选择高频、低风险、可验收任务。比如会议纪要摘要、工单初分类、政策问答、字段抽取草稿。同时写清楚成功标准和不做什么。成功标准要能检查：答案是否引用正确、字段是否合规、人工确认是否缩短、错误是否可追踪。不做什么同样重要：不做退款，不改权限，不自动发送。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第4到7天：接入只读日志、反馈入口和小范围告警\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这一步只读运行。用户可以提交反馈，工程可以看到日志，运营可以处理告警，但关键写操作仍然留在旧流程。你可以把反馈入口设计成三个按钮：答案有用、依据不足、需要人工。不要一上来做复杂评分。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第8到10天：演练故障\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">至少演练三次：工具超时、权限拒绝、人工接管。看回滚链路是否可用，旧入口能否恢复，负责人能否在约定流程内决策。演练不是形式主义，它会让告警、日志和审批链真正咬合。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第11到14天：输出试点报告\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">报告只问三个问题：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">价值是否成立\u003C\u002Fstrong>：它是否减少了重复劳动，是否提高了响应质量，是否让流程可追溯。\u003C\u002Fli>\n\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">风险是否可控\u003C\u002Fstrong>：失败是否能被及时发现，是否能降级，是否能回滚。\u003C\u002Fli>\n\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">成本是否可承受\u003C\u002Fstrong>：模型调用、工具维护、人工审核和回滚演练是否划算。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">常见坑\u003C\u002Fh3>\n\u003Col>\n\u003Cli>只演示顺利路径，不演练失败路径。真实事故几乎都藏在边界输入里。\u003C\u002Fli>\n\u003Cli>把降级做成不可用。降级应保留可解释能力，比如只读查询和建议草稿。\u003C\u002Fli>\n\u003Cli>日志没有 request_id，问题无法回放，最后只能靠口述定位。\u003C\u002Fli>\n\u003Cli>人工接管没有证据包，审批人比模型更忙，反而拉低效率。\u003C\u002Fli>\n\u003Cli>评测集固定不变，导致团队只优化指标，不优化真实任务。\u003C\u002Fli>\n\u003Cli>回滚只有模型开关，没有旧流程、通知路径和数据清理动作。\u003C\u002Fli>\n\u003C\u002Fol>\n\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三句话讲透\u003C\u002Fh2>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">1. 智能体落地不是让模型多会说，而是让系统少失控。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">2. 状态表、证据日志和告警动作，比一句更聪明的提示词更接近生产可靠性。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">3. 继续、降级、停止不是情绪判断，而是运行闭环给出的证据决策。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果这篇清单能帮你少一次临时救火，建议收藏，并转给正在负责 Agent 试点的同事。\u003C\u002Fp>\u003C\u002Fsection>\n\u003Csection class=\"portal-disclaimer\" data-portal-disclaimer=\"1\" style=\"margin-top:2.5em;padding-top:1.25em;border-top:1px solid #e8e4dc;font-size:14px;line-height:1.7;color:#7a756c;\">\u003Cp style=\"margin:0;\">免责声明：本文内容整理自公开网络资料，仅供学习交流参考，不代表观山书院立场。如涉及版权侵权，请联系我们删除。\u003C\u002Fp>\u003Cp style=\"margin:0.75em 0 0;\">联系邮箱：\u003Ca href=\"mailto:chenxj.g@gmail.com\">chenxj.g@gmail.com\u003C\u002Fa>\u003C\u002Fp>\u003C\u002Fsection>",3491459,"2026-09-29T17:56:37+08:00","2026-09-29T18:08:27.844225+08:00","2026-09-29T21:35:02.036222+08:00",{"id":49,"locale":13,"slug":50,"type":15,"title":51,"summary":52,"content_html":53,"video_url":19,"cover_url":20,"author":21,"category":22,"status":23,"source_job_id":54,"published_at":55,"created_at":56,"updated_at":57},187,"ai-agent落地实战-三流地图法","AI Agent落地实战：三流地图法","本文给出任务流、权限流、证据流三张图和一份上线检查表，帮助开发者判断Agent能否稳定进生产并安全回退。","\u003Csection data-gzh-readable=\"1\" style=\"margin:0;padding:0;\">\u003Cdiv data-gzh-header=\"1\">\u003Cp style=\"font-size:15px;color:#888;text-align:center;margin-top:8px;\">本文给出任务流、权限流、证据流三张图和一份上线检查表，帮助开发者判断Agent能否稳定进生产并安全回退。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Cp style=\"font-size:14px;color:#999;text-align:center;margin-top:4px;\">作者：进学斋 · 观山书院\u003C\u002Fp>\u003Cp style=\"font-size:13px;color:#999;text-align:center;margin:0 0 6px 0;\">全文约3523字 · 阅读约需12分钟\u003C\u002Fp>\u003Chr style=\"border:none;border-top:1px solid #eee;margin:24px 0;\" \u002F>\u003C\u002Fdiv>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">最近看几个团队把 AI Agent 放进真实业务，demo 现场很顺：丢进去一段材料，模型能总结、能填字段、还能给出建议。可一旦接上工单、知识库、审批和数据库，问题马上变慢、变乱、变难追责。落地真正的难点不是模型会不会说话，而是它能不能被观察、被限制、被回退。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这篇不聊模型选型，也不堆提示词技巧。你会拿到一张三流地图：任务流、权限流、证据流，以及一份上线检查表。读完今天就能梳理场景，明天搭最小日志，后天做只读试跑。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">一、别从模型开始，从可观察的任务流开始\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">很多失败从定义开始就错了。业务方说自动处理，开发者理解成让 Agent 自由发挥。这不是自动化，这是风险扩散。先把目标改写成可观察的四件事。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">1. 输入、约束、输出、异常\u003C\u002Fh3>\u003Cul>\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">输入\u003C\u002Fstrong>：Agent 能拿到什么资料。例如工单文本、用户历史、附件链接、当前时间、客户身份。\u003C\u002Fli>\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">约束\u003C\u002Fstrong>：哪些数据不能用，哪些动作不能做。例如不能改生产状态、不能读取未脱敏字段、不能外发客户隐私。\u003C\u002Fli>\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">输出\u003C\u002Fstrong>：成功长什么样。例如分类标签、风险等级、待办摘要、回复草稿，必须能被规则或人工快速校验。\u003C\u002Fli>\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">异常\u003C\u002Fstrong>：缺资料、工具超时、权限不足、低置信度时，走什么兜底。\u003C\u002Fli>\u003C\u002Ful>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果这四件事写不清楚，先不要接 Agent。模糊聊天和可运营自动化之间，隔着一张输入输出合同。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">2. 用只读试跑定位断点\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">不要一开始就让它写库、发通知、建任务。先做只读试跑：允许读、不允许写；允许建议、不允许执行。把每一步动作记录下来。\u003C\u002Fp>\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">读取输入 > 解析约束 > 规划步骤 > 调用只读工具 > 生成候选结果 > 自校验 > 等待人工确认\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以按这条链找断点。问题通常在四个位置：理解错、规划错、工具错、结果校验不足。如果断点没定位，模型换得再多也只是换一种错法。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">3. 先选边界清晰的单点\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">优先选择输入稳定、输出短、失败代价低的场景。例如工单分类、资料摘要、流程提醒、会议要点提取。完整客服闭环、自动退款、自动发布对外公告，都不是第一步。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">据行业观察，能稳定进入生产的 Agent，往往不是全流程接管者，而是一段明确任务的可观察执行者。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 地图先画在纸上，风险才会少在系统里。\u003C\u002Fem>\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fsz_mmbiz_jpg\u002F4WyfSFibfkRP3wvvjPW4Q00TYfHkuyMlibzpUIuXY3I7KKMfjK6UYFne6fibcczoK0DtgAia6kMVpycqLsvOlibCpXY4nuHfZjJMibKJmYhoWiaZxM\u002F0?from=appmsg\" alt=\"配图·远山层叠\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·远山层叠\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">二、三流地图：任务流、权限流、证据流\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">落地评估可以从三张图开始。它们互相牵制：任务流决定做什么，权限流决定能不能做，证据流决定出事以后能不能解释。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">1. 任务流：把目标拆成可验证步骤\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">任务流不是自然语言愿望，是流程节点。每个节点要有进入条件、输出物、校验方式、失败去向。这样你才能判断哪些步骤可自动，哪些必须人工确认。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">例如自动处理客户投诉要拆成：识别诉求、抽取订单、查询规则、判断责任、生成回复、提交审批。前三步大多可自动，后三步可能需要人确认，最后写入工单系统必须走权限边界。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">2. 权限流：把动作分成三态\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">权限流要回答：这个工具能不能读、能不能写、谁审批、出错怎么停。不要只给 Agent 一串 API 名称。每个工具都要标敏感级别和影响范围。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Cthead>\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">动作类型\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">典型工具\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">默认边界\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">上线条件\u003C\u002Fth>\u003C\u002Ftr>\u003C\u002Fthead>\u003Ctbody>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">只读查询\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">read_ticket\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">lookup_policy\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">低敏感字段优先，限制时间范围\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">有字段脱敏，有访问日志\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">生成建议\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">summarize\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">draft_reply\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">不直接发送给外部系统\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">有置信度阈值，有模板校验\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">需审批写操作\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">create_ticket\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">send_internal_notice\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">必须人工确认后执行\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">审批链路可追溯，可撤回\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">高危禁用\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">refund\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">publish_public\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">delete_record\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">默认禁用，单独评审\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">多因素审批、灰度开关、强回滚\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftbody>\u003C\u002Ftable>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这张表不是为了限制创新，而是让 Agent 在可控范围内跑。自动执行不等于无人负责，审批不等于低效，禁用也不等于落后。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">3. 证据流：让过程可审计\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">证据流要记录为什么这一步会发生。最小字段包括 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">trace_id\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">task_id\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">step\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">tool\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">input_hash\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">output_summary\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">auth_level\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">result\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">rollback\u003C\u002Fcode>。\u003C\u002Fp>\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">trace_id | task_id | step | tool | input_hash | output_summary | auth_level | result | rollback 1 | t09 | lookup | read_ticket | hash_a | 找到工单 | auto | ok | none 1 | t09 | draft | summarize | hash_b | 草稿142字 | auto | ok | regenerate 1 | t09 | send | create_ticket | hash_c | 待审批 | approval | pending | cancel_ticket\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">有证据流，复盘才不是我觉得模型不太行。没有证据流，上线后只有焦虑和甩锅。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 能解释的动作，才适合交给机器。\u003C\u002Fem>\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkROOLRTTe9Fef7AiaXQKiaibtOaqXibdtSlLGP9Duu8ZSeLS54ibb5Tha49Bfp4r8kgKhChENh5VBrf2OGK1JsW65BtN7m3DNmaTHknQ\u002F0?from=appmsg\" alt=\"配图·林间静趣\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·林间静趣\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三、四步把Agent接入真实业务\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">三流地图画完，可以进入最小接入。目标不是马上生产化，而是拿到足够证据决定是否扩大。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第一步：选单点场景，定成功指标\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">给场景定三个数字：成功指标、失败预算、人工兜底位置。成功指标可以是分类一致性、草稿采纳率、摘要可用率。失败预算可以是低置信度时转人工。人工兜底位置可以是客服工作台、工单队列或审批人。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第二步：搭最小日志\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">最小日志不是全量审计，而是关键节点可回放。至少记录四类事件：任务开始、工具调用、输出结果、异常事件。日志里不要写原始敏感数据，优先记录哈希、字段摘要、脱敏片段。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第三步：用影子模式运行\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">影子模式让 Agent 和人工流程并行。Agent 读取真实输入，生成候选输出，但不直接改生产状态。人工照常处理，事后比较两者差异。这样可以观察一致性、延迟、失败类型，风险很低。\u003C\u002Fp>\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">真实输入 > Agent 候选输出 > 人工真实结果 > 比对差异 > 归类失败原因 > 调整任务流或权限流\u003C\u002Fcode>\u003C\u002Fpre>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第四步：做三天复盘，再决定扩量\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">三天看趋势，不看个案。重点统计错误归因、接管率、工具失败率、人工修改幅度。接管率高不一定是失败，可能只是任务定义太粗；工具失败率高要查接口和权限；人工修改幅度大要加模板和校验。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 先影子，再灰度；先证据，再权限。\u003C\u002Fem>\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">四、常见坑与选型：什么时候不该上Agent\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">有些项目不该上 Agent。这不是技术否定，而是工程止损。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">1. 结果无法快速验证时，先不要自动化\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果业务结果需要几小时甚至几天才能判断，Agent 的错误会被自动化放大。例如复杂定价、跨部门协调、长期用户留存。先补验证器、人工抽检或离线评估。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">2. 权限和责任不清时，先降级到规则自动化\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">数据权限、外部工具状态、审批责任都没定义时，固定流程或规则引擎更稳。Agent 适合处理模糊输入，不适合替团队补齐治理短板。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">3. 没人负责日志、告警、回滚时，暂缓上线\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果团队没人负责事件追踪、失败告警、任务回滚，Agent 只会在上线后变成新的运维风险。先把责任写进流程：谁看日志，谁判异常，谁停开关，谁做回滚。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 不做 Agent，也是一种正确选型。\u003C\u002Fem>\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">五、上线后三天复盘：看证据不看感觉\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">复盘不要停留在这模型不够聪明。失败要归因到可修复位置。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">1. 把失败分成五类\u003C\u002Fh3>\u003Cul>\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">理解错\u003C\u002Fstrong>：输入解析偏差、约束遗漏、角色混淆。\u003C\u002Fli>\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">规划错\u003C\u002Fstrong>：步骤顺序反了，多调工具，提前执行写操作。\u003C\u002Fli>\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">工具错\u003C\u002Fstrong>：接口超时、字段缺失、返回结构变化。\u003C\u002Fli>\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">权限阻\u003C\u002Fstrong>：读取被拒、写操作未审批、敏感字段不可见。\u003C\u002Fli>\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">人工纠正\u003C\u002Fstrong>：结果可用但表达、判断、责任需要人改。\u003C\u002Fli>\u003C\u002Ful>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">五类失败对应不同修复：改 prompt 只解决一部分，改任务流、权限流、日志和审批才真正降低事故率。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">2. 用三个指标判断动作\u003C\u002Fh3>\u003Cul>\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">自动完成率\u003C\u002Fstrong>：候选输出无需人工修改即可采用的比例。高且稳定，才考虑扩量。\u003C\u002Fli>\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">人工接管率\u003C\u002Fstrong>：需要人判断或介入的比例。持续高，就收缩场景或加规则。\u003C\u002Fli>\u003Cli>\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">工具失败率\u003C\u002Fstrong>：调用超时、鉴权失败、返回异常的比例。高就先修工程，不换模型。\u003C\u002Fli>\u003C\u002Ful>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">3. 输出一份可转发检查清单\u003C\u002Fh3>\u003Cul>\u003Cli>☐ 任务流已拆成可验证步骤，每个步骤有输入、输出和失败去向。\u003C\u002Fli>\u003Cli>☐ 权限流已区分自动执行、需审批、禁用三类动作。\u003C\u002Fli>\u003Cli>☐ 证据流已记录任务开始、工具调用、输出摘要、异常和回滚标记。\u003C\u002Fli>\u003Cli>☐ 已设置低置信度转人工，不允许静默失败。\u003C\u002Fli>\u003Cli>☐ 已准备回滚方式：取消草稿、重跑任务、关闭自动执行、降级为人工。\u003C\u002Fli>\u003Cli>☐ 已明确责任人：日志 owner、审批 owner、回滚 owner、业务验收 owner。\u003C\u002Fli>\u003Cli>☐ 已完成三天影子模式或灰度运行，并能用数据解释趋势。\u003C\u002Fli>\u003C\u002Ful>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">三句话讲透：\u003C\u002Fstrong>Agent 不是自动做所有事，而是在权限、证据和回退都清楚时，替人完成一段可观察工作；落地先画三流地图，再谈扩量；判断能否上线，不看 demo 流畅度，而看失败能否被看见、控制和回退。\u003C\u002Fp>\u003C\u002Fsection>\n\u003Csection class=\"portal-disclaimer\" data-portal-disclaimer=\"1\" style=\"margin-top:2.5em;padding-top:1.25em;border-top:1px solid #e8e4dc;font-size:14px;line-height:1.7;color:#7a756c;\">\u003Cp style=\"margin:0;\">免责声明：本文内容整理自公开网络资料，仅供学习交流参考，不代表观山书院立场。如涉及版权侵权，请联系我们删除。\u003C\u002Fp>\u003Cp style=\"margin:0.75em 0 0;\">联系邮箱：\u003Ca href=\"mailto:chenxj.g@gmail.com\">chenxj.g@gmail.com\u003C\u002Fa>\u003C\u002Fp>\u003C\u002Fsection>",3491458,"2026-09-29T17:51:07+08:00","2026-09-29T18:17:05.732953+08:00","2026-09-29T21:35:02.03926+08:00",{"id":59,"locale":13,"slug":60,"type":15,"title":61,"summary":62,"content_html":63,"video_url":19,"cover_url":20,"author":21,"category":22,"status":23,"source_job_id":64,"published_at":65,"created_at":66,"updated_at":67},189,"ai-agent落地-任务合同五步法","AI Agent落地：任务合同五步法","读完可把模糊需求写成任务合同，明确输入输出、工具权限、失败预算和回滚线，今天就能启动上线评审。","\u003Csection data-gzh-readable=\"1\" style=\"margin:0;padding:0;\">\u003Cdiv data-gzh-header=\"1\">\u003Cp style=\"font-size:15px;color:#888;text-align:center;margin-top:8px;\">读完可把模糊需求写成任务合同，明确输入输出、工具权限、失败预算和回滚线，今天就能启动上线评审。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Cp style=\"font-size:14px;color:#999;text-align:center;margin-top:4px;\">作者：进学斋 · 观山书院\u003C\u002Fp>\u003Cp style=\"font-size:13px;color:#999;text-align:center;margin:0 0 6px 0;\">全文约3923字 · 阅读约需14分钟\u003C\u002Fp>\u003Chr style=\"border:none;border-top:1px solid #eee;margin:24px 0;\" \u002F>\u003C\u002Fdiv>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">最近一个做客服 Agent 的团队给我看 demo，输入工单文本，输出处理建议，现场跑得很顺。可一放到真实工单池，问题立刻出来：它会不会改用户资料？会不会替客户承诺退款？出错以后能不能追回？这类问题，单靠提示词很难回答。真正可落地的 Agent，需要先拿到一份任务合同。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以把这份合同理解成 Agent 的岗位说明书：它负责什么，能看到什么，能调用什么工具，失败了怎么退回去，谁批准后才能动关键系统。读完这篇，你会拿到一套五步上线法、一份合同字段示例、一张架构选型对照表，今天就能启动评审。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 先让边界说话，再让模型表演。\u003C\u002Fem>\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">一、先给 Agent 定边界\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">把需求拆成四类，别急着接工具\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">很多需求一开始都很模糊：做一个智能客服助手，做一个报告整理 Agent，做一个工单分诊机器人。听起来都能跑，但边界没有拆开。落地第一步不是选模型，而是把目标、输入、输出、禁止动作写清楚。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">目标要可验证。比如，把工单分到正确队列，给出下一步建议。输入要有限定。比如，只读取用户描述、历史工单摘要和产品规则，不读取手机号、地址、支付信息。输出要固定格式。比如，输出 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">JSON\u003C\u002Fcode>，包含分类、优先级、置信度、建议动作。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">禁止动作比自动动作更重要\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">一个 Agent 上线前，最危险的不是它做不了什么，而是它擅自做了什么。退款、发送优惠券、修改订单、写邮件、创建外部账号、删除文件，这些都要先列进禁止动作。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以把动作分成三档：可自动、需审批、必须禁用。低风险动作可以自动，比如生成摘要、归类标签、给出话术建议。中高风险动作需要审批，比如发送邮件、提交工单、创建任务。高风险动作直接禁用，比如退款、改价、导出敏感数据、删除记录。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">用任务合同替代长篇 PRD，不是为了减少沟通，而是让产品、技术、业务能在同一页纸上确认：这个 Agent 到底能不能上线。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 合同不是文档，是可执行边界。\u003C\u002Fem>\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fsz_mmbiz_jpg\u002F4WyfSFibfkRPXG5kVn7Gty6umlEGr75ibyL0fUJgic2SPNpg4aKSl7BBia8MDTsQGRqcMSEh9PiaMVnLp9be3uNYhWN71RIZN3lqiate8ericeOu0Y\u002F0?from=appmsg\" alt=\"配图·春野柔光\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·春野柔光\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">二、任务合同核心字段\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">一份最小可用的任务合同\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">合同字段不必长，但要可执行。下面是一段可直接放进项目仓库的 YAML 示例，适合工单分诊、报告整理这类场景。\u003C\u002Fp>\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">contract:  id: ticket-triage-v1  objective: 将新进工单分类到正确队列，并给出下一步处理建议  context:    ticket_pool_snapshot: current_day    knowledge_base_version: rules_v1    business_rules_version: cs_v3  input:    allowed_fields:      - ticket_text      - user_type      - product_name    forbidden_fields:      - phone      - address      - payment_id  output:    format: json    required:      - category      - priority      - confidence      - next_action  tools:    read_only:      - knowledge_base_search      - ticket_history_query    write_allowed: []    approval_required:      - create_followup_ticket  dependencies:    mcp:      allowed_servers:        - ticket_service      read_only: true    function_calling:      whitelist:        - knowledge_base_search        - ticket_history_query  forbidden:    - refund    - price_change    - export_user_data    - delete_ticket  data_boundary:    retention: 24h    redaction:      - email      - phone  failure_budget:    auto_retry: 1    max_error_rate: threshold_by_business  rollback_line:    mode: human_queue    fallback: rule_based_router\u003C\u002Fcode>\u003C\u002Fpre>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">每个字段都要能验收\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">目标字段不能只写“提升效率”。要写成日志可统计、结果可抽查的条件。比如，分类字段必须命中枚举值；置信度低于阈值的任务必须进入人工队列。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">工具权限不能只写“允许调用知识库”。要写明哪个接口、什么参数、只读还是写入、是否记录 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">trace id\u003C\u002Fcode>。\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">MCP\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Function Calling\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">RAG\u003C\u002Fcode> 知识库这些依赖，都要变成可验证条件：能不能调用，调用了什么，返回什么，失败后怎么办。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">上下文字段同样关键。当前工单池快照、知识库版本、业务规则版本，最好都能写进合同。否则，同一类问题昨天能答对，今天答错，排查时很难定位是模型问题、数据问题，还是规则漂移。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">数据边界决定安全线。哪些字段可以进入模型上下文，哪些必须脱敏，哪些完全不能读，要在合同里写死。失败预算决定运维线。允许重试几次，超过阈值触发什么降级，不能出错后才临时决定。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">回滚线决定业务信心。出错时是切换人工队列，还是降级到规则引擎，还是直接暂停写入，都要提前指定负责人。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 先试只读，再放写入。\u003C\u002Fem>\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkRPCjzBokF0OezvXu42jvAgJFeR30Y9iczutnzLpx1HMBibeXfadjmGWtSPYAwoAG8JHMwlVQHibK9NXo4x5hBYAWmdNhnNgnM0SJ0\u002F0?from=appmsg\" alt=\"配图·庭园小径\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·庭园小径\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三、五步落地实战\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第一步：评审合同\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">拉上产品、技术、业务三方，开一次短会，只过合同字段。不要讨论模型能力，先确认输出标准、权限边界和禁止动作。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">评审时要问三个问题：输出错了谁来判定？工具调用越界谁来拦截？业务方能不能接受最坏结果？如果三方没有一个明确答案，先别上线。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第二步：只读试点\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">只读试点是最稳的启动方式。Agent 只能读取数据、生成建议，不能写回任何系统。比如，只给工单打标签、给客服推荐话术、给报告生成提纲。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">试点期关注三类证据：日志里能看到完整链路，指标里能看到错误率，抽查里能看到真实业务判断。据公开资料和行业观察，很多团队最初不敢上 Agent，不是因为模型不够聪明，而是因为缺少可追溯的链路。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第三步：灰度审批\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">低风险动作可以自动执行。中高风险动作走审批队列。比如，生成退款解释可以自动，提交退款不能自动；创建跟进工单可以自动，修改用户联系方式必须审批。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">灰度策略可以按业务域、用户类型、时间窗口或工单标签逐步放开。每一次放开，都要能单独回滚。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第四步：回滚演练\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">上线前不要只做成功路径测试。要故意制造失败：模型返回非法 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">JSON\u003C\u002Fcode>、工具超时、知识库不可用、分类置信度过低。然后看系统是否真的能切到人工队列或规则降级。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">回滚演练要记录时间。如果从发现错误到业务方接管需要十几分钟，合同就要收紧，先回到只读模式。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第五步：复盘台账\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">复盘不是写事故报告，而是更新合同。每次失败要归因：是提示词问题，还是工具权限问题，还是数据边界问题，或是业务规则不清晰。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">台账至少记录：时间、任务 id、错误类型、影响范围、是否自动恢复、后续动作。下一次评审，合同字段必须跟着变。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 不同架构，不同风险，不同成本。\u003C\u002Fem>\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">四、常见坑与选型\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">团队常见的坑有四个：没有幂等，重试后可能重复创建工单；没有审批，模型一激动就可能执行写操作；没有可观测，出错后无法还原链路；没有降级，异常一发生就整条业务停摆。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">下面是四种常见形态的对比。选型不要追新概念，要看当前任务的风险等级。\u003C\u002Fp>\u003Ctable border='1' style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">形态\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">适合场景\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">主要风险\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">落地建议\u003C\u002Fth>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">纯提示词\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">问答、摘要、文案初稿\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">不稳定，难以审计\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">只当轻量工具，不碰业务系统\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">单 Agent 工作流\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">工单分诊、报告整理、知识检索\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">工具调用越界，重试不幂等\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">加合同、日志、失败预算\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">多 Agent 协作\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">跨模块复杂任务，如分析、校验、汇总\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">链路长，责任难定位\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">先做可观测，再谈协作\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">平台化 Agent\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">企业内多业务线接入，统一权限与审计\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">成本高，需求易过度设计\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">先跑通低风险场景，再抽象平台\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftable>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">优先选择低风险场景\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第一批上线不要选退款、支付、批量群发、账号注销。可以选只读客服、工单分诊、报告整理、会议摘要、知识库问答、规则初筛。这些场景即使出错，影响通常有限，也更容易收集验收数据。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">一个实用判断：如果最坏结果只是“建议不准”，可以试点；如果最坏结果是“钱发错、文件被删、客户被误发通知”，先不要自动执行。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 能写下来，才叫准备就绪。\u003C\u002Fem>\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">五、上线前检查清单\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 合同里已写清输出验收和禁止动作。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 工具权限已分成只读、可写、需审批三档。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 数据边界已标注允许字段、禁用字段和脱敏字段。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 上下文版本已记录，便于复现和追溯。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 失败预算已定义重试次数、错误阈值和触发降级的条件。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 回滚路径已演练过：人工队列、规则降级或暂停写入。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 日志能定位一次完整任务链路：输入、工具调用、输出、耗时、错误码。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 抽查机制已建立：每天或每周抽取样本，由业务确认结果是否可用。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 灰度名单已确定：哪些业务域先上，哪些保持只读。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">你今天就能做的三件事\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第一，把当前 Agent 需求改写成合同字段，控制在半页以内。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第二，列出禁止动作清单，发给业务方确认。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第三，启动只读试点，把日志、指标和抽查表拉通。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">三句话讲透：\u003C\u002Fstrong>边界写在合同里，上线走灰度里，改进落在台账里。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果这份任务合同模板能帮你少开几次返工会，可以收藏或转发给产品、测试和业务负责人。\u003C\u002Fp>\u003C\u002Fsection>\n\u003Csection class=\"portal-disclaimer\" data-portal-disclaimer=\"1\" style=\"margin-top:2.5em;padding-top:1.25em;border-top:1px solid #e8e4dc;font-size:14px;line-height:1.7;color:#7a756c;\">\u003Cp style=\"margin:0;\">免责声明：本文内容整理自公开网络资料，仅供学习交流参考，不代表观山书院立场。如涉及版权侵权，请联系我们删除。\u003C\u002Fp>\u003Cp style=\"margin:0.75em 0 0;\">联系邮箱：\u003Ca href=\"mailto:chenxj.g@gmail.com\">chenxj.g@gmail.com\u003C\u002Fa>\u003C\u002Fp>\u003C\u002Fsection>",3491457,"2026-09-29T17:47:32+08:00","2026-09-29T18:30:42.822246+08:00","2026-09-29T21:35:02.075131+08:00",{"id":69,"locale":13,"slug":70,"type":15,"title":71,"summary":72,"content_html":73,"video_url":19,"cover_url":20,"author":74,"category":22,"status":23,"published_at":75,"created_at":76,"updated_at":77},176,"提示词工程实战-系统提示-few-shot-与结构化输出技巧","提示词工程实战：系统提示、Few-shot 与结构化输出技巧","本文从工程视角梳理提示词设计中的系统提示、Few-shot 示例与结构化输出方法，并给出实践清单、常见坑与延伸阅读方向。","\u003Ch2>背景与问题\u003C\u002Fh2>\u003Cp>在把大模型接入真实业务时，很多团队首先遇到的是输出不可控：回答跑题、字段缺失、格式漂移、同一输入多次调用结果差异明显。提示词工程并不是寻找神秘咒语，而是把任务目标、输入数据、约束条件、示例和输出协议写成模型能稳定理解的形式。对于开发者而言，它更像一份面向概率系统的接口文档：既要描述业务意图，也要为异常、边界和解析成本做设计。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Ch2>核心概念\u003C\u002Fh2>\u003Ch3>系统提示\u003C\u002Fh3>\u003Cp>系统提示通常用于设定模型的角色、能力边界、语气、安全策略和输出规范。例如让模型扮演客服、代码审查员或数据抽取助手。好的系统提示应该明确“必须做什么、不能做什么、遇到不确定情况怎么办”。据公开资料，不同模型对系统消息的处理方式和优先级存在差异，生产环境请以官方文档为准，并通过回归测试验证。\u003C\u002Fp>\u003Ch3>Few-shot 示例\u003C\u002Fh3>\u003Cp>Few-shot 是通过少量示例告诉模型任务模式。它适合分类、实体抽取、情感判断、工单路由、内容改写等任务。示例不只是展示正确答案，更重要的是展示判断边界：正常样本、模糊样本、缺失样本、应拒绝的样本都可以放入示例中。示例越接近真实输入分布，模型越容易稳定复用。\u003C\u002Fp>\u003Ch3>结构化输出\u003C\u002Fh3>\u003Cp>结构化输出强调让模型返回程序可解析的结果，例如 JSON、固定字段列表、CSV 或带 schema 的对象。相比自由文本，结构化输出能显著降低后处理成本。实际工程中，可以要求模型只输出 JSON，并约定字段名、类型、枚举值和空值策略；如果模型平台提供函数调用、工具调用或 JSON Schema 约束，也可优先使用平台能力。\u003C\u002Fp>\u003Cp>从工程角度看，三者可以组合：系统提示负责稳定人设和底线规则，Few-shot 负责校准任务格式与判断尺度，结构化输出负责对接下游程序。若只写一句“请帮我处理”，模型很容易在风格、字段和边界上漂移。\u003C\u002Fp>\u003Ch2>实践步骤与检查清单\u003C\u002Fh2>\u003Cul>\u003Cli>\u003Cstrong>先写任务说明：\u003C\u002Fstrong>用一句话描述输入是什么、输出是什么、成功标准是什么。\u003C\u002Fli>\u003Cli>\u003Cstrong>拆分角色与规则：\u003C\u002Fstrong>系统提示放长期稳定约束，用户消息放本次变量数据。\u003C\u002Fli>\u003Cli>\u003Cstrong>设计 Few-shot：\u003C\u002Fstrong>从 2 到 5 个示例开始，覆盖典型场景和至少一个边界场景。\u003C\u002Fli>\u003Cli>\u003Cstrong>定义输出协议：\u003C\u002Fstrong>明确字段、类型、必填项、枚举值，以及无法判断时返回什么。\u003C\u002Fli>\u003Cli>\u003Cstrong>控制上下文长度：\u003C\u002Fstrong>只保留与当前任务相关的字段、示例和规则，避免无关信息干扰。\u003C\u002Fli>\u003Cli>\u003Cstrong>加入校验层：\u003C\u002Fstrong>程序侧对返回内容做 JSON 解析、字段校验和重试，不要假设模型永远合法。\u003C\u002Fli>\u003Cli>\u003Cstrong>建立评估集：\u003C\u002Fstrong>用固定样本衡量格式合法率、字段准确率、拒绝准确率和成本。\u003C\u002Fli>\u003C\u002Ful>\u003Cp>下面是一个简化的提示词结构示例，用于从用户反馈中抽取问题类型和紧急程度：\u003C\u002Fp>\u003Cpre>\u003Ccode>system: 你是工单分类助手。只输出 JSON，不输出解释。字段要求：category 为 bug、billing、account 或 other；urgency 为 low、medium 或 high；summary 不超过 20 字。user: 用户反馈：{feedback} assistant: {"category":"billing","urgency":"medium","summary":"重复扣费"}\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp>这个示例的用途是把角色、输出字段、枚举值和示例放在同一个可测试模板中。实际使用时，{feedback} 可由程序替换为真实文本，再对返回 JSON 做 schema 校验。\u003C\u002Fp>\u003Ch2>常见坑与建议\u003C\u002Fh2>\u003Cul>\u003Cli>\u003Cstrong>指令互相冲突：\u003C\u002Fstrong>例如同时要求“极简回答”和“详细列出所有依据”。应明确优先级，必要时分阶段输出。\u003C\u002Fli>\u003Cli>\u003Cstrong>示例过度理想化：\u003C\u002Fstrong>如果 Few-shot 全是干净输入，模型遇到噪声文本容易失效。建议加入脏数据、短文本和歧义样本。\u003C\u002Fli>\u003Cli>\u003Cstrong>只靠提示词防注入：\u003C\u002Fstrong>系统提示不能替代安全层。用户输入可能包含“忽略之前指令”等内容，需配合输入过滤、权限隔离和输出校验。\u003C\u002Fli>\u003Cli>\u003Cstrong>忽视采样参数：\u003C\u002Fstrong>抽取、分类、结构化任务通常更适合较低随机性，创意生成可适当放宽。不同平台参数名称和效果不同，请以官方文档为准。\u003C\u002Fli>\u003Cli>\u003Cstrong>把长提示当万能方案：\u003C\u002Fstrong>规则过多会稀释重点。可把稳定规则放系统提示，把动态数据放用户消息，并用小标题或分隔符组织内容。\u003C\u002Fli>\u003Cli>\u003Cstrong>没有失败回退：\u003C\u002Fstrong>当模型返回非法 JSON 时，应记录原始响应、触发重试、降级到人工或规则解析。\u003C\u002Fli>\u003Cli>\u003Cstrong>评估指标缺失：\u003C\u002Fstrong>仅凭主观感觉判断提示词好坏，容易在模型升级后失效。建议记录每次提示词版本、测试集结果和线上坏例。\u003C\u002Fli>\u003C\u002Ful>\u003Ch2>延伸阅读方向\u003C\u002Fh2>\u003Cp>在掌握基础提示词工程后，可以进一步关注上下文工程、RAG 检索增强、Agent 工具调用、模型评估体系、提示词版本管理、缓存与成本控制，以及提示注入防护。若团队准备上线生产系统，建议把提示词当作代码资产：纳入版本控制、单元测试、灰度发布和线上监控。这样，提示词工程才能从单次调优变成可持续迭代的工程能力。\u003C\u002Fp>\n\u003Csection class=\"portal-sources\" style=\"margin-top:2em;font-size:14px;line-height:1.7;color:#5c5850;\">\u003Cp style=\"margin:0 0 0.5em;font-weight:600;\">参考来源\u003C\u002Fp>\u003Cul style=\"margin:0;padding-left:1.25em;\">\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fwww.runoob.com\u002Fai-agent\u002Fprompt-engineering.html\" rel=\"noopener noreferrer\" target=\"_blank\">提示词工程（Prompt Engineering） | 菜鸟教程\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fwww.cnblogs.com\u002Fluzhanshi\u002Farticles\u002F19071865\" rel=\"noopener noreferrer\" target=\"_blank\">提示词工程（Prompt Engineering）完全指南：从入门到生产 ...\u003C\u002Fa>\u003C\u002Fli>\u003C\u002Ful>\u003C\u002Fsection>\n\u003Csection class=\"portal-disclaimer\" data-portal-disclaimer=\"1\" style=\"margin-top:2.5em;padding-top:1.25em;border-top:1px solid #e8e4dc;font-size:14px;line-height:1.7;color:#7a756c;\">\u003Cp style=\"margin:0;\">免责声明：本文内容整理自公开网络资料，仅供学习交流参考，不代表观山书院立场。如涉及版权侵权，请联系我们删除。\u003C\u002Fp>\u003Cp style=\"margin:0.75em 0 0;\">联系邮箱：\u003Ca href=\"mailto:chenxj.g@gmail.com\">chenxj.g@gmail.com\u003C\u002Fa>\u003C\u002Fp>\u003C\u002Fsection>","观山书院","2026-09-29T16:26:23.505014+08:00","2026-09-29T16:29:26.224751+08:00","2026-09-29T21:35:02.005214+08:00",{"id":79,"locale":13,"slug":80,"type":15,"title":81,"summary":82,"content_html":83,"video_url":19,"cover_url":20,"author":74,"category":22,"status":23,"published_at":84,"created_at":85,"updated_at":86},169,"ai-安全与对齐工程实践-幻觉控制-越狱防护与内容审核","AI 安全与对齐工程实践：幻觉控制、越狱防护与内容审核","本文从工程落地角度梳理大模型安全与对齐的核心问题，围绕幻觉控制、越狱防护与内容审核给出分层防御、红队测试和上线检查清单，帮助开发者构建更可靠的生成式 AI 应用。","\u003Ch2>背景与问题\u003C\u002Fh2>\n\u003Cp>过去两年，大模型从演示工具走向客服、研发助手、知识问答、营销内容生成等生产系统。一旦接入真实业务，问题会迅速变得具体：模型可能编造不存在的接口参数，可能在多轮诱导下输出违规内容，也可能把网页里的隐藏文本当成指令执行。对工程团队来说，AI 安全与对齐不是抽象伦理口号，而是一组需要纳入需求、测试、发布和运维的工程约束。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Cp>常见风险可以概括为三类：第一是幻觉，即模型生成看似合理但缺乏事实依据的内容；第二是越狱与提示注入，即攻击者通过话术、编码、角色设定或外部数据绕过安全策略；第三是内容合规风险，包括违法、暴力、歧视、隐私泄露和高风险专业建议。真正成熟的系统不会假设模型永远正确，而是通过多层机制让错误可发现、可拦截、可追溯。\u003C\u002Fp>\n\u003Ch2>核心概念\u003C\u002Fh2>\n\u003Ch3>安全、对齐与可控性\u003C\u002Fh3>\n\u003Cul>\n\u003Cli>\u003Cstrong>安全\u003C\u002Fstrong>：系统在不同输入下尽量避免产生有害、违法或误导性输出。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>对齐\u003C\u002Fstrong>：模型行为与用户意图、产品目标、组织策略和社会规范保持一致。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>可控性\u003C\u002Fstrong>：开发者能够限定模型能力边界、审计关键行为，并在异常时停止或降级服务。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>三者关系可以这样理解：对齐解决模型应该做什么，安全解决模型不能做什么，可控性解决人类如何监督和纠偏。若只有提示词而没有权限边界，模型很容易被诱导；若只有过滤器而没有事实依据，系统又容易误伤正常需求。\u003C\u002Fp>\n\u003Ch3>幻觉控制\u003C\u002Fh3>\n\u003Cp>幻觉并不等于模型说谎，它更像是模型在信息不足时仍然保持高置信度表达。工程上通常从三个方向控制：第一，减少无依据生成，例如引入检索增强、知识库引用和工具查询；第二，降低错误置信度，例如要求模型区分事实、推测和未知；第三，建立验证机制，例如引用校验、答案一致性检查和人工抽检。\u003C\u002Fp>\n\u003Cp>对于事实型任务，建议将回答分为可验证与不可验证两类。可验证问题尽量走检索或数据库，不可验证问题则明确标注不确定性。这比单纯要求模型不要幻觉更有效。\u003C\u002Fp>\n\u003Ch3>越狱防护\u003C\u002Fh3>\n\u003Cp>越狱通常利用模型对自然语言的泛化能力，例如假装成小说创作、代码调试、学术讨论、系统管理员，或使用 Base64、Unicode、多语言混合等方式绕过检测。提示注入则更进一步，把恶意指令混入用户输入、网页内容、文档附件或工具返回结果中。\u003C\u002Fp>\n\u003Cp>防护重点不是寻找一个万能关键词表，而是建立分层防御：输入层识别高风险意图，系统层隔离用户指令与系统策略，工具层限制文件、网络、数据库和代码执行权限，输出层进行安全审核，日志层保留可审计证据。\u003C\u002Fp>\n\u003Ch3>内容审核\u003C\u002Fh3>\n\u003Cp>内容审核是模型输出进入用户前的最后一道防线。它不应只是一个黑盒分类器，而应包含清晰策略：哪些内容必须拦截，哪些内容需要改写或降级，哪些内容可以放行但附带提示，哪些场景必须转人工。审核策略需要与业务风险等级匹配，例如医疗、法律、金融、未成年人相关场景应显著从严。\u003C\u002Fp>\n\u003Ch2>实践步骤与检查清单\u003C\u002Fh2>\n\u003Ch3>1. 先定义风险等级，再选择模型能力\u003C\u002Fh3>\n\u003Cul>\n\u003Cli>明确应用是否涉及资金、医疗、法律、未成年人、隐私或自动化执行。\u003C\u002Fli>\n\u003Cli>根据风险等级确定是否允许联网、是否允许调用工具、是否允许生成可执行代码。\u003C\u002Fli>\n\u003Cli>对高风险场景设置人工复核、限流、白名单和强审计。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch3>2. 建立分层防御流水线\u003C\u002Fh3>\n\u003Cp>一个常见的生产流水线包括：输入清洗、意图识别、权限判断、检索增强、模型生成、事实校验、输出审核和日志记录。下面是一个简化的伪代码示例，用于说明各检查点的位置。\u003C\u002Fp>\n\u003Cpre>\u003Ccode>def guardrail(prompt, context):\n    if contains_secret(prompt):\n        return deny('请勿提交密钥或个人敏感信息')\n\n    intent = classify_intent(prompt)\n    if intent in ('medical', 'legal', 'finance'):\n        return answer_with_disclaimer(prompt, require_review=True)\n\n    if intent == 'fact':\n        context = retrieve_sources(prompt)\n\n    answer = llm_generate(prompt, context, temperature=0.2)\n\n    if intent == 'fact' and not has_citation(answer):\n        answer = add_uncertainty_note(answer)\n\n    return output_filter(answer)\n\u003C\u002Fcode>\u003C\u002Fpre>\n\u003Cp>这段代码不是完整安全方案，而是展示工程思路：先处理敏感信息与高风险意图，再根据任务类型决定是否检索，最后对输出进行审核和不确定性标注。\u003C\u002Fp>\n\u003Ch3>3. 幻觉控制的关键动作\u003C\u002Fh3>\n\u003Cul>\n\u003Cli>为事实型问题接入检索、知识库或结构化查询，并尽量要求引用来源。\u003C\u002Fli>\n\u003Cli>限制模型在缺少证据时自由发挥，可设置拒答模板或转人工。\u003C\u002Fli>\n\u003Cli>对长文档问答进行分段检索，避免模型跨段落拼接出错误结论。\u003C\u002Fli>\n\u003Cli>建立离线评估集，重点检查事实准确率、引用命中率和拒答合理性。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch3>4. 越狱与提示注入测试\u003C\u002Fh3>\n\u003Cul>\n\u003Cli>构造角色扮演、反向指令、多轮诱导、编码绕过、多语言混合等测试用例。\u003C\u002Fli>\n\u003Cli>检查系统提示是否可能被泄露，工具调用是否可能被用户间接控制。\u003C\u002Fli>\n\u003Cli>对网页抓取、文件解析、数据库返回等外部内容做隔离，避免间接注入。\u003C\u002Fli>\n\u003Cli>每次模型升级、提示词调整或工具变更后，执行回归红队测试。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch3>5. 内容审核与运营闭环\u003C\u002Fh3>\n\u003Cul>\n\u003Cli>输出审核应覆盖违法、暴力、歧视、隐私、自伤、未成年人和高风险专业建议。\u003C\u002Fli>\n\u003Cli>对拦截案例记录原因，对误判案例进行复盘，持续更新策略。\u003C\u002Fli>\n\u003Cli>为客服、教育、医疗等场景配置专门话术和人工升级路径。\u003C\u002Fli>\n\u003Cli>日志要脱敏保存，并明确保留期限与访问权限，请以适用法规和官方合规要求为准。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch2>常见坑与建议\u003C\u002Fh2>\n\u003Cul>\n\u003Cli>\u003Cstrong>只依赖系统提示\u003C\u002Fstrong>：系统提示很重要，但不能作为唯一防线。攻击者可以通过多轮对话或外部内容改变模型行为，必须配合权限控制和输出审核。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>关键词过滤过于简单\u003C\u002Fstrong>：关键词表容易被同义词、拼音、编码和隐喻绕过。应结合语义分类、上下文判断和风险分级。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>把幻觉问题只归因于提示词\u003C\u002Fstrong>：如果没有可靠知识来源和评估机制，仅靠请模型谨慎回答往往效果有限。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>过度拒绝影响可用性\u003C\u002Fstrong>：安全策略不是一味拦截。对边缘场景应提供解释、替代方案或人工入口，避免用户被反复拒绝。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>忽略间接注入\u003C\u002Fstrong>：模型读取网页、PDF、邮件或工具返回时，外部文本可能携带指令。应将数据内容与执行指令明确分离。\u003C\u002Fli>\n\u003Cli>\u003Cstrong>没有持续评估\u003C\u002Fstrong>：模型版本、提示词、知识库和工具都会变化。没有回归测试，安全能力会随迭代悄悄退化。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Ch2>延伸阅读方向\u003C\u002Fh2>\n\u003Cul>\n\u003Cli>OWASP 针对大模型应用的安全风险清单与生成式 AI 安全实践。\u003C\u002Fli>\n\u003Cli>NIST AI Risk Management Framework 等公共治理框架。\u003C\u002Fli>\n\u003Cli>据公开资料，Google SAIF、Anthropic 等机构提出的安全对齐与红队测试方法。\u003C\u002Fli>\n\u003Cli>RLHF、DPO、Constitutional AI 等对齐技术路线及其适用边界。\u003C\u002Fli>\n\u003Cli>RAG 评估指标，如忠实度、答案相关性、引用准确率和拒答率。\u003C\u002Fli>\n\u003Cli>自动化红队、对抗提示生成与模型行为监测工具链。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp>总体而言，AI 安全与对齐不是一次性项目，而是持续运营。工程团队需要把幻觉控制、越狱防护和内容审核纳入同一套质量体系，用可测试、可观测、可回滚的方式管理模型风险。\u003C\u002Fp>\n\u003Csection class=\"portal-sources\" style=\"margin-top:2em;font-size:14px;line-height:1.7;color:#5c5850;\">\u003Cp style=\"margin:0 0 0.5em;font-weight:600;\">参考来源\u003C\u002Fp>\u003Cul style=\"margin:0;padding-left:1.25em;\">\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fwww.chagushici.com\u002Fzidian\u002Fzuci\u002F%E5%A4%A7\" rel=\"noopener noreferrer\" target=\"_blank\">大组词_大字组词_大的词语 - 汉语词典\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fzhuanlan.zhihu.com\u002Fp\u002F636078956\" rel=\"noopener noreferrer\" target=\"_blank\">AI安全与对齐: When, Why, What, and How - 知乎\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fnotes.hehugo.com\u002Fresearch\u002Fai\u002Fengineering\u002Fai-safety-alignment-guide\" rel=\"noopener noreferrer\" target=\"_blank\">AI 安全与对齐完全指南 | 何雨果的知识库\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fzhuanlan.zhihu.com\u002Fp\u002F666115472\" rel=\"noopener noreferrer\" target=\"_blank\">AI安全前沿 #1 | AI安全四大抓手：对齐、鲁棒性、监测 ...\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fblog.csdn.net\u002Fmieshizhishou\u002Farticle\u002Fdetails\u002F140318746\" rel=\"noopener noreferrer\" target=\"_blank\">【有啥问啥】LLM大模型应用中的安全对齐的简单理解 ...\u003C\u002Fa>\u003C\u002Fli>\u003C\u002Ful>\u003C\u002Fsection>\n\u003Csection class=\"portal-disclaimer\" data-portal-disclaimer=\"1\" style=\"margin-top:2.5em;padding-top:1.25em;border-top:1px solid #e8e4dc;font-size:14px;line-height:1.7;color:#7a756c;\">\u003Cp style=\"margin:0;\">免责声明：本文内容整理自公开网络资料，仅供学习交流参考，不代表观山书院立场。如涉及版权侵权，请联系我们删除。\u003C\u002Fp>\u003Cp style=\"margin:0.75em 0 0;\">联系邮箱：\u003Ca href=\"mailto:chenxj.g@gmail.com\">chenxj.g@gmail.com\u003C\u002Fa>\u003C\u002Fp>\u003C\u002Fsection>","2026-09-29T14:25:47.577226+08:00","2026-09-29T14:30:35.360431+08:00","2026-09-29T21:35:01.971841+08:00",{"id":88,"locale":13,"slug":89,"type":15,"title":90,"summary":91,"content_html":92,"video_url":19,"cover_url":20,"author":74,"category":22,"status":23,"published_at":93,"created_at":94,"updated_at":95},167,"大语言模型入门-transformer-上下文窗口与提示词基础","大语言模型入门：Transformer、上下文窗口与提示词基础","本文面向开发者梳理大语言模型入门要点：Transformer 如何用注意力处理文本，上下文窗口如何影响输入输出预算，以及如何用提示词稳定表达任务。文章给出实践清单、常见坑与延伸阅读方向。","\u003Ch2>背景与问题\u003C\u002Fh2>\u003Cp>很多开发者第一次接触大语言模型时，容易被参数规模、Token、上下文窗口、温度、系统提示等概念绕晕。真正落地时，问题往往不是模型够不够聪明，而是我们是否把任务边界说清楚了：模型一次能看到哪些文本？哪些信息必须保留？输出格式如何约束？错误如何兜底？本文从工程视角梳理三个基础但关键的点：Transformer 的工作方式、上下文窗口的限制、提示词设计的基本方法。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\u003Ch2>核心概念\u003C\u002Fh2>\u003Ch3>Transformer：用注意力理解序列\u003C\u002Fh3>\u003Cp>Transformer 是 2017 年在论文 \u003Cstrong>Attention Is All You Need\u003C\u002Fstrong> 中提出的深度学习架构。它与此前常见的 RNN、LSTM 有一个显著差异：不再强制按时间步逐词处理，而是通过自注意力机制同时观察序列中的多个位置，并计算它们之间的关联。这使得训练更容易并行，也更适合长距离依赖建模。\u003C\u002Fp>\u003Cp>在大语言模型中，文本首先会被切分为 Token。Token 可能是词、子词或符号，具体取决于分词器。随后，每个 Token 被映射为向量，并叠加位置编码，让模型知道顺序。之后，向量进入多层注意力与前馈网络，不断提炼上下文关系。现代常见的生成式模型多采用 Decoder-only 结构，即根据已有文本预测下一个 Token。据公开资料，GPT、LLaMA 等模型均基于或改进了 Transformer 架构，具体实现请以官方文档为准。\u003C\u002Fp>\u003Cp>理解 Transformer 时，可以重点抓住几个组件：\u003C\u002Fp>\u003Cul>\u003Cli>\u003Cstrong>Token Embedding\u003C\u002Fstrong>：把离散文本变成连续向量。\u003C\u002Fli>\u003Cli>\u003Cstrong>位置编码\u003C\u002Fstrong>：补充词序信息，否则模型只知道内容集合，不知道先后顺序。\u003C\u002Fli>\u003Cli>\u003Cstrong>自注意力\u003C\u002Fstrong>：通过 Query、Key、Value 判断哪些位置更相关。\u003C\u002Fli>\u003Cli>\u003Cstrong>多头注意力\u003C\u002Fstrong>：用多组注意力从不同维度捕捉关系。\u003C\u002Fli>\u003Cli>\u003Cstrong>前馈网络、残差连接与层归一化\u003C\u002Fstrong>：提升表达能力并帮助训练稳定。\u003C\u002Fli>\u003C\u002Ful>\u003Cpre>\u003Ccode>scores = Q @ K.T \u002F sqrt(d_k); weights = softmax(scores); output = weights @ V\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp>这段伪代码不是完整模型，只说明注意力如何计算：先用 Q 和 K 得到相关性分数，再经过 softmax 变成权重，最后对 V 加权求和。对工程师来说，这个抽象足够解释为什么模型能根据上下文选择重点。\u003C\u002Fp>\u003Ch3>上下文窗口：模型一次能参考的 Token 范围\u003C\u002Fh3>\u003Cp>上下文窗口常被称作 context length、max tokens 或最大上下文长度。它限制一次请求中输入与输出共同占用的 Token 总量。例如窗口为 8192 Token，并不意味着可以无脑塞入 8192 个汉字或英文单词，因为不同分词器切分结果不同。中文、代码、表格、Markdown 符号都可能影响 Token 数。\u003C\u002Fp>\u003Cp>工程上更稳妥的做法是：把上下文窗口视为预算，而不是容量上限。系统提示、用户输入、检索结果、历史对话、工具返回和预期输出，都要纳入预算。若做长文档问答，通常还需要分块、摘要或结合检索，而不是把全文一次性塞入模型。\u003C\u002Fp>\u003Ch3>提示词：把任务约束写成模型可执行的输入\u003C\u002Fh3>\u003Cp>提示词不是简单提问，而是一次推理的输入规范。一个稳定的提示词通常包含角色、任务、上下文、约束、输出格式和必要示例。对于分类、抽取、摘要、代码生成等任务，提示词越接近可验收的需求文档，模型输出越容易稳定。\u003C\u002Fp>\u003Ch2>实践步骤或检查清单\u003C\u002Fh2>\u003Cul>\u003Cli>\u003Cstrong>明确任务类型\u003C\u002Fstrong>：先判断是开放生成、结构化抽取、分类判断，还是代码补全。不同任务对温度和示例的要求不同。\u003C\u002Fli>\u003Cli>\u003Cstrong>提供最小必要上下文\u003C\u002Fstrong>：只保留与任务直接相关的材料，避免无关文本稀释关键指令。\u003C\u002Fli>\u003Cli>\u003Cstrong>拆分长文本\u003C\u002Fstrong>：超过窗口或接近上限时，先分块摘要，再做汇总或检索增强。\u003C\u002Fli>\u003Cli>\u003Cstrong>固定输出格式\u003C\u002Fstrong>：要求输出列表、表格、JSON 或固定字段，并给出字段说明。\u003C\u002Fli>\u003Cli>\u003Cstrong>加入少样本示例\u003C\u002Fstrong>：用 1 到 3 个示例校准语气、粒度和边界情况。\u003C\u002Fli>\u003Cli>\u003Cstrong>预留输出空间\u003C\u002Fstrong>：不要把输入填满，给模型生成和格式化留出余量。\u003C\u002Fli>\u003Cli>\u003Cstrong>做回归测试\u003C\u002Fstrong>：准备一组典型用例，每次修改提示词或模型版本后重新验证。\u003C\u002Fli>\u003C\u002Ful>\u003Cp>一个简单提示词模板可以这样组织：\u003C\u002Fp>\u003Cpre>\u003Ccode>template = '角色：技术文档助手。任务：根据给定文本生成摘要。要求：输出 3 条要点，每条不超过 20 字。约束：不要编造事实，不要输出无关内容。文本：{text}'\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp>这个示例用于说明提示词的结构化写法：角色、任务、要求、约束和输入数据分层清晰，便于程序拼接与后续维护。\u003C\u002Fp>\u003Ch2>常见坑与建议\u003C\u002Fh2>\u003Cul>\u003Cli>\u003Cstrong>把上下文窗口当永久记忆\u003C\u002Fstrong>：窗口外的信息模型看不到。长会话需要摘要、外部存储或检索机制。\u003C\u002Fli>\u003Cli>\u003Cstrong>混淆 Token 与字符\u003C\u002Fstrong>：一个汉字、一个英文单词或一个代码符号不一定等于一个 Token，建议用实际 tokenizer 统计。\u003C\u002Fli>\u003Cli>\u003Cstrong>提示词过长导致重点丢失\u003C\u002Fstrong>：关键约束可放在开头和结尾，并用列表呈现。\u003C\u002Fli>\u003Cli>\u003Cstrong>只调参数不修输入\u003C\u002Fstrong>：温度、top_p 等采样参数会影响随机性，但输出不稳定时，优先检查提示词、上下文和任务边界。\u003C\u002Fli>\u003Cli>\u003Cstrong>忽视幻觉与校验\u003C\u002Fstrong>：模型可能生成流畅但错误的内容。涉及事实、医疗、法律、金融或生产环境决策时，应加入检索、规则校验、人工审核或拒绝回答机制。\u003C\u002Fli>\u003Cli>\u003Cstrong>盲目追求大窗口\u003C\u002Fstrong>：更长上下文并不总是更好，成本、延迟和信息噪声都会上升。能用小上下文稳定解决问题，通常更经济。\u003C\u002Fli>\u003C\u002Ful>\u003Ch2>延伸阅读方向\u003C\u002Fh2>\u003Cul>\u003Cli>\u003Cstrong>Transformer 原始论文\u003C\u002Fstrong>：理解自注意力、编码器与解码器设计。\u003C\u002Fli>\u003Cli>\u003Cstrong>分词器与 BPE\u003C\u002Fstrong>：弄清 Token 数、词表大小与多语言处理差异。\u003C\u002Fli>\u003Cli>\u003Cstrong>RAG 与长文档处理\u003C\u002Fstrong>：学习检索增强生成、分块策略和重排序。\u003C\u002Fli>\u003Cli>\u003Cstrong>结构化输出\u003C\u002Fstrong>：研究 JSON Schema、函数调用和约束解码。\u003C\u002Fli>\u003Cli>\u003Cstrong>模型评估\u003C\u002Fstrong>：建立准确率、幻觉率、延迟、成本和用户反馈的综合指标。\u003C\u002Fli>\u003C\u002Ful>\n\u003Csection class=\"portal-sources\" style=\"margin-top:2em;font-size:14px;line-height:1.7;color:#5c5850;\">\u003Cp style=\"margin:0 0 0.5em;font-weight:600;\">参考来源\u003C\u002Fp>\u003Cul style=\"margin:0;padding-left:1.25em;\">\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fzhuanlan.zhihu.com\u002Fp\u002F338817680\" rel=\"noopener noreferrer\" target=\"_blank\">Transformer模型详解（图解最完整版） - 知乎\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fwww.runoob.com\u002Fpytorch\u002Ftransformer-model.html\" rel=\"noopener noreferrer\" target=\"_blank\">Transformer 模型 - 菜鸟教程\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fblog.csdn.net\u002Fweixin_42475060\u002Farticle\u002Fdetails\u002F121101749\" rel=\"noopener noreferrer\" target=\"_blank\">【超详细】【原理篇&实战篇】一文读懂Transformer-CSDN博客\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fzhuanlan.zhihu.com\u002Fp\u002F47812375\" rel=\"noopener noreferrer\" target=\"_blank\">[整理] 聊聊 Transformer - 知乎\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fwww.zhihu.com\u002Ftardis\u002Fzm\u002Fart\u002F600773858\" rel=\"noopener noreferrer\" target=\"_blank\">一文了解Transformer全貌（图解Transformer）\u003C\u002Fa>\u003C\u002Fli>\u003C\u002Ful>\u003C\u002Fsection>\n\u003Csection class=\"portal-disclaimer\" data-portal-disclaimer=\"1\" style=\"margin-top:2.5em;padding-top:1.25em;border-top:1px solid #e8e4dc;font-size:14px;line-height:1.7;color:#7a756c;\">\u003Cp style=\"margin:0;\">免责声明：本文内容整理自公开网络资料，仅供学习交流参考，不代表观山书院立场。如涉及版权侵权，请联系我们删除。\u003C\u002Fp>\u003Cp style=\"margin:0.75em 0 0;\">联系邮箱：\u003Ca href=\"mailto:chenxj.g@gmail.com\">chenxj.g@gmail.com\u003C\u002Fa>\u003C\u002Fp>\u003C\u002Fsection>","2026-09-29T14:05:48.096495+08:00","2026-09-29T14:10:06.122875+08:00","2026-09-29T22:15:37.510277+08:00",{"id":97,"locale":13,"slug":98,"type":15,"title":99,"summary":100,"content_html":101,"video_url":19,"cover_url":20,"author":74,"category":22,"status":23,"published_at":102,"created_at":103,"updated_at":104},155,"大语言模型入门-从-transformer-上下文窗口到提示词基础","大语言模型入门：从 Transformer、上下文窗口到提示词基础","本文面向开发者梳理大语言模型的三个基础概念：Transformer 的注意力机制、上下文窗口的工程边界，以及提示词设计方法，并给出实践检查清单与常见坑。","\u003Ch2>背景与问题\u003C\u002Fh2>\u003Cp>很多开发者第一次接触大语言模型时，容易把它当成一个“更聪明的接口”：传入一段话，等待一段回答。真正落地后，问题很快出现：模型为什么会忘记前面的要求？为什么长文档粘贴进去后反而答非所问？为什么同样的问题，不同提示词会得到截然不同的结果？要理解这些现象，绕不开三个基础概念：\u003Cstrong>Transformer\u003C\u002Fstrong>、\u003Cstrong>上下文窗口\u003C\u002Fstrong>和\u003Cstrong>提示词\u003C\u002Fstrong>。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Cp>本文面向开发者与 AI 从业者，尝试用工程视角讲清楚：大语言模型是如何处理文本的，一次请求的可见范围有多大，以及我们应如何组织输入，让模型更稳定地完成任务。\u003C\u002Fp>\u003Ch2>核心概念\u003C\u002Fh2>\u003Ch3>Transformer：大语言模型的主流骨架\u003C\u002Fh3>\u003Cp>据公开资料，当前主流大语言模型大多基于 Transformer 架构。它的核心突破并不神秘：不再像早期循环网络那样逐词顺序处理，而是通过\u003Cstrong>自注意力机制\u003C\u002Fstrong>一次性计算序列中各个词之间的关系。\u003C\u002Fp>\u003Cp>可以把自注意力理解成一种“查找与加权”过程：每个词会生成 Query、Key、Value 三类向量，模型通过 Query 和 Key 的相似度得到注意力分数，再用这些分数对 Value 加权求和。这样，句子中的每个位置都能参考其他位置的信息。\u003C\u002Fp>\u003Cpre>\u003Ccode># 极简示意：自注意力中的分数计算\nscores = Q @ K.T \u002F (d_k ** 0.5)\nweights = softmax(scores)\noutput = weights @ V\n\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp>这段伪代码不是为了实现完整模型，而是说明：注意力本质上是一组可学习的权重，决定模型在当前任务中更关注哪些上下文。实际 Transformer 还包含多头注意力、位置编码、残差连接、层归一化和前馈网络等模块。原始论文中常见编码器与解码器结构；而当前许多对话模型更常见 decoder-only 自回归结构，即根据前文逐个预测下一个 token。不同模型在结构细节上有差异，请以官方文档为准。\u003C\u002Fp>\u003Ch3>上下文窗口：模型一次能看见的范围\u003C\u002Fh3>\u003Cp>上下文窗口通常指模型在一次推理中能够处理的 token 上限。注意，这里说的是 token，不完全等于汉字、单词或字符。中文场景下，一个汉字可能对应一个或多个 token，具体取决于分词器。\u003C\u002Fp>\u003Cp>工程上要把上下文窗口理解为“工作记忆”而不是“长期记忆”。如果历史对话、系统说明、检索资料、用户问题加起来超过窗口，通常会被截断或报错；即使没有超过，信息过多也可能导致关键内容被稀释。\u003C\u002Fp>\u003Ch3>提示词：输入组织方式，而不是咒语\u003C\u002Fh3>\u003Cp>提示词并不只是“问一句话”，而是整个输入的结构化设计。常见输入包括系统指令、背景资料、用户问题、示例、输出格式约束等。好的提示词往往不是堆砌形容词，而是明确任务边界、输入格式和验收标准。\u003C\u002Fp>\u003Ch2>实践步骤或检查清单\u003C\u002Fh2>\u003Cul>\u003Cli>\u003Cstrong>先定义任务：\u003C\u002Fstrong>是摘要、分类、抽取、改写，还是代码生成？不同任务需要不同的上下文和输出约束。\u003C\u002Fli>\u003Cli>\u003Cstrong>控制上下文：\u003C\u002Fstrong>不要把全部资料原样塞入窗口。优先保留与当前问题强相关的内容，必要时先做摘要、分段或检索。\u003C\u002Fli>\u003Cli>\u003Cstrong>使用结构化指令：\u003C\u002Fstrong>明确角色、目标、输入、限制和输出格式。例如要求模型只输出 JSON，或先给出结论再给出依据。\u003C\u002Fli>\u003Cli>\u003Cstrong>提供少样本示例：\u003C\u002Fstrong>如果任务格式复杂，可以给一到两个高质量示例，减少模型对格式的猜测。\u003C\u002Fli>\u003Cli>\u003Cstrong>设置参数并测试：\u003C\u002Fstrong>温度、最大输出长度等参数会影响结果稳定性。分类、抽取类任务通常更适合较低温度。\u003C\u002Fli>\u003C\u002Ful>\u003Cpre>\u003Ccode># 一个常见的消息组织示例\nmessages = [\n  {'role': 'system', 'content': '你是严谨的技术编辑，回答要简洁。'},\n  {'role': 'user', 'content': '用三句话解释上下文窗口。'}\n]\n\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp>这段代码展示的是对话式接口中常见的消息结构。实际字段名和调用方式会因平台而异，请以官方文档为准。\u003C\u002Fp>\u003Ch2>常见坑与建议\u003C\u002Fh2>\u003Cul>\u003Cli>\u003Cstrong>把上下文窗口当永久记忆：\u003C\u002Fstrong>模型不会自动记住窗口之外的历史。跨会话记忆需要外部存储、摘要或检索系统。\u003C\u002Fli>\u003Cli>\u003Cstrong>盲目追求长上下文：\u003C\u002Fstrong>窗口越大不等于效果越好。无关内容过多会增加成本，也可能让模型抓不住重点。\u003C\u002Fli>\u003Cli>\u003Cstrong>忽略 token 计数：\u003C\u002Fstrong>长文本应用应提前估算输入与输出 token，避免超限截断。\u003C\u002Fli>\u003Cli>\u003Cstrong>提示词含糊：\u003C\u002Fstrong>例如只写“帮我优化一下”，模型可能无法判断优化目标是性能、可读性还是风格。\u003C\u002Fli>\u003Cli>\u003Cstrong>缺少验证：\u003C\u002Fstrong>大语言模型可能生成看似合理但错误的内容。关键字段、数字、代码都应加入校验或测试。\u003C\u002Fli>\u003Cli>\u003Cstrong>泄露敏感信息：\u003C\u002Fstrong>不要把密钥、隐私数据或内部机密直接拼进提示词，除非已确认合规与安全边界。\u003C\u002Fli>\u003C\u002Ful>\u003Ch2>延伸阅读方向\u003C\u002Fh2>\u003Cul>\u003Cli>\u003Cstrong>注意力机制与模型结构：\u003C\u002Fstrong>进一步理解 Query、Key、Value、多头注意力与位置编码。\u003C\u002Fli>\u003Cli>\u003Cstrong>Tokenizer 与 token 计数：\u003C\u002Fstrong>了解不同分词器如何影响长度、成本与多语言效果。\u003C\u002Fli>\u003Cli>\u003Cstrong>RAG 检索增强生成：\u003C\u002Fstrong>当知识量大且更新频繁时，可结合检索系统管理上下文。\u003C\u002Fli>\u003Cli>\u003Cstrong>结构化输出与函数调用：\u003C\u002Fstrong>学习 JSON Schema、工具调用和 Agent 设计。\u003C\u002Fli>\u003Cli>\u003Cstrong>评估与回归测试：\u003C\u002Fstrong>建立提示词版本管理、样例集和自动评估流程，让效果可度量。\u003C\u002Fli>\u003C\u002Ful>\u003Cp>总体来说，大语言模型不是黑盒魔法，而是可以被工程化约束的概率序列模型。理解 Transformer 的处理方式、上下文窗口的边界和提示词的组织方法，是进入 LLM 应用开发的第一步。\u003C\u002Fp>\n\u003Csection class=\"portal-sources\" style=\"margin-top:2em;font-size:14px;line-height:1.7;color:#5c5850;\">\u003Cp style=\"margin:0 0 0.5em;font-weight:600;\">参考来源\u003C\u002Fp>\u003Cul style=\"margin:0;padding-left:1.25em;\">\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fzhuanlan.zhihu.com\u002Fp\u002F338817680\" rel=\"noopener noreferrer\" target=\"_blank\">Transformer模型详解（图解最完整版） - 知乎\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fblog.csdn.net\u002Fweixin_42475060\u002Farticle\u002Fdetails\u002F121101749\" rel=\"noopener noreferrer\" target=\"_blank\">【超详细】【原理篇&实战篇】一文读懂Transformer-CSDN博客\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fwww.runoob.com\u002Fpytorch\u002Ftransformer-model.html\" rel=\"noopener noreferrer\" target=\"_blank\">Transformer 模型 - 菜鸟教程\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fwww.zhihu.com\u002Ftardis\u002Fzm\u002Fart\u002F600773858\" rel=\"noopener noreferrer\" target=\"_blank\">一文了解Transformer全貌（图解Transformer）\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fzhuanlan.zhihu.com\u002Fp\u002F675569052\" rel=\"noopener noreferrer\" target=\"_blank\">Transformer原理详解（图解完整版附代码） - 知乎\u003C\u002Fa>\u003C\u002Fli>\u003C\u002Ful>\u003C\u002Fsection>\n\u003Csection class=\"portal-disclaimer\" data-portal-disclaimer=\"1\" style=\"margin-top:2.5em;padding-top:1.25em;border-top:1px solid #e8e4dc;font-size:14px;line-height:1.7;color:#7a756c;\">\u003Cp style=\"margin:0;\">免责声明：本文内容整理自公开网络资料，仅供学习交流参考，不代表观山书院立场。如涉及版权侵权，请联系我们删除。\u003C\u002Fp>\u003Cp style=\"margin:0.75em 0 0;\">联系邮箱：\u003Ca href=\"mailto:chenxj.g@gmail.com\">chenxj.g@gmail.com\u003C\u002Fa>\u003C\u002Fp>\u003C\u002Fsection>","2026-09-29T12:29:55.757097+08:00","2026-09-29T12:32:34.444709+08:00","2026-09-29T21:35:01.820839+08:00",{"id":106,"locale":13,"slug":107,"type":15,"title":108,"summary":109,"content_html":110,"video_url":19,"cover_url":20,"author":74,"category":22,"status":23,"published_at":111,"created_at":112,"updated_at":113},153,"大语言模型入门-从-transformer-到上下文窗口与提示词","大语言模型入门：从 Transformer 到上下文窗口与提示词","本文面向开发者梳理大语言模型的三个基础概念：Transformer 如何用注意力机制处理文本，上下文窗口如何约束模型可见信息，以及提示词工程如何通过结构化输入提升输出稳定性，并给出实践清单与常见坑。","\u003Ch2>背景与问题\u003C\u002Fh2>\u003Cp>很多开发者第一次接触大语言模型时，容易把它当成一个“更聪明的文本补全接口”。但真正落地到问答、摘要、代码生成或企业知识库时，常会遇到三类问题：模型为什么会答非所问？为什么长文档后半部分信息被忽略？为什么同样一个问题，换一种问法结果差异很大？\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Cp>这些问题通常都绕不开三个基础概念：Transformer、上下文窗口和提示词。Transformer 决定了模型如何理解与生成文本；上下文窗口决定了模型一次能“看到”多少内容；提示词则决定了你把什么信息、以什么结构交给模型。理解这三者，是从调用 API 到构建稳定 AI 应用的第一步。\u003C\u002Fp>\u003Ch2>核心概念\u003C\u002Fh2>\u003Ch3>Transformer：用注意力机制理解序列\u003C\u002Fh3>\u003Cp>据公开资料，Transformer 由 Vaswani 等人在 2017 年论文《Attention Is All You Need》中提出。与传统 RNN 逐词处理不同，Transformer 的核心是自注意力机制：模型在处理一个词时，可以同时关注句子中其他位置的信息，并计算它们之间的关联强度。\u003C\u002Fp>\u003Cp>可以用一个工程化类比：如果把一句话看成一组服务调用，自注意力就像在每次处理某个节点时，动态查询其他节点的相关性，再按权重汇总结果。典型流程包括：将文本转成词向量，叠加位置编码，计算 Query、Key、Value，通过缩放点积得到注意力分数，再聚合得到新的表示。\u003C\u002Fp>\u003Cp>现代大语言模型常见结构包括 Encoder、Decoder 或 Decoder-only。据公开资料，BERT 一类模型更偏 Encoder 表示，GPT 一类生成模型通常采用 Decoder-only 结构。对应用开发者来说，不必从零实现模型，但需要知道：模型不是逐字检索，而是基于上下文概率分布进行预测。\u003C\u002Fp>\u003Ch3>上下文窗口：模型一次能看到的 token 范围\u003C\u002Fh3>\u003Cp>上下文窗口通常指模型在一次推理中可处理的 token 数量上限。这里的 token 不完全等于汉字或英文单词，可能被分词器切成子词或字符片段。窗口越大，模型能同时参考的历史越多，但不等于无限记忆。\u003C\u002Fp>\u003Cp>上下文窗口带来三个工程约束：\u003C\u002Fp>\u003Cul>\u003Cli>\u003Cstrong>容量限制\u003C\u002Fstrong>：输入、系统提示、历史对话和输出预留都会占用 token。\u003C\u002Fli>\u003Cli>\u003Cstrong>注意力成本\u003C\u002Fstrong>：窗口越长，推理延迟与显存开销通常越高。\u003C\u002Fli>\u003Cli>\u003Cstrong>信息衰减\u003C\u002Fstrong>：即使窗口足够长，模型也可能对中间或靠后内容关注不足，需要结构化排版。\u003C\u002Fli>\u003C\u002Ful>\u003Cp>因此，长文本应用不能简单把所有资料塞进去，而要做摘要、检索、分块和排序。\u003C\u002Fp>\u003Ch3>提示词：把任务变成可执行的输入协议\u003C\u002Fh3>\u003Cp>提示词不是“咒语”，更像接口文档。一个好的提示词应明确任务目标、输入材料、输出格式、约束条件和示例。对于复杂任务，还可以加入角色设定、推理步骤要求或拒绝回答策略。\u003C\u002Fp>\u003Cp>例如，让模型做技术摘要时，与其写“帮我总结一下”，不如提供结构化字段：背景、方案、风险、结论。这样输出更稳定，也便于程序解析。\u003C\u002Fp>\u003Ch2>实践步骤或检查清单\u003C\u002Fh2>\u003Cul>\u003Cli>\u003Cstrong>第一步：明确任务类型\u003C\u002Fstrong>。判断是分类、抽取、摘要、改写、问答还是生成代码。任务越明确，越容易设计提示词。\u003C\u002Fli>\u003Cli>\u003Cstrong>第二步：估算上下文预算\u003C\u002Fstrong>。为系统提示、用户输入、参考资料和输出分别预留 token，避免超限。\u003C\u002Fli>\u003Cli>\u003Cstrong>第三步：组织输入结构\u003C\u002Fstrong>。使用标题、编号、列表和分隔线，把关键信息放在显眼位置。\u003C\u002Fli>\u003Cli>\u003Cstrong>第四步：提供最少但充分的示例\u003C\u002Fstrong>。如果输出格式严格，给 1 到 3 个示例通常比长篇解释更有效。\u003C\u002Fli>\u003Cli>\u003Cstrong>第五步：要求模型标注不确定性\u003C\u002Fstrong>。例如“若资料不足，请说明缺少哪些信息”，可降低幻觉风险。\u003C\u002Fli>\u003Cli>\u003Cstrong>第六步：做回归测试\u003C\u002Fstrong>。准备一组典型问题、边界问题和异常输入，持续比较不同提示词版本。\u003C\u002Fli>\u003C\u002Ful>\u003Cp>一个简单示例是构造对话消息列表，把系统指令、用户问题和上下文资料分开：\u003C\u002Fp>\u003Cpre>\u003Ccode>messages = [{'role': 'system', 'content': '你是技术文档编辑，只根据资料回答'}, {'role': 'user', 'content': '资料：... 问题：上下文窗口是什么？'}]\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp>这段代码不是完整调用，而是说明：在工程实践中，应把角色、规则和问题分层传入，而不是混成一段自然语言。\u003C\u002Fp>\u003Ch2>常见坑与建议\u003C\u002Fh2>\u003Cul>\u003Cli>\u003Cstrong>把长窗口当成无限记忆\u003C\u002Fstrong>。窗口大只表示可输入更多 token，不代表所有细节都会被同等利用。建议对长文档做目录、摘要和检索增强。\u003C\u002Fli>\u003Cli>\u003Cstrong>提示词过度依赖模型自觉\u003C\u002Fstrong>。如果要求 JSON 输出，应明确字段名、类型和空值处理，必要时用后处理校验。\u003C\u002Fli>\u003Cli>\u003Cstrong>忽略 token 计算差异\u003C\u002Fstrong>。中文、英文、代码和标点的分词方式不同，不能只按字符数估算，请以所用模型的分词器或官方文档为准。\u003C\u002Fli>\u003Cli>\u003Cstrong>频繁改提示词但没有评估集\u003C\u002Fstrong>。没有固定测试集，很难判断优化是真实提升还是偶然波动。\u003C\u002Fli>\u003Cli>\u003Cstrong>把模型输出当事实源\u003C\u002Fstrong>。大语言模型可能生成看似合理但错误的内容。关键场景应结合权威数据、引用来源或人工审核。\u003C\u002Fli>\u003C\u002Ful>\u003Cp>建议采用“提示词即代码”的思路：版本化管理、写注释、做 A\u002FB 测试，并把失败案例沉淀为回归用例。\u003C\u002Fp>\u003Ch2>延伸阅读方向\u003C\u002Fh2>\u003Cul>\u003Cli>Transformer 原始论文《Attention Is All You Need》及其图解资料，可帮助理解自注意力、多头注意力和位置编码。\u003C\u002Fli>\u003Cli>分词器与 token 计数工具，用于理解上下文窗口和成本估算。\u003C\u002Fli>\u003Cli>RAG（检索增强生成）与向量数据库，适合处理长文档、企业知识库和实时数据。\u003C\u002Fli>\u003Cli>提示词评估与自动化优化，例如固定数据集、指标打分和提示词版本管理。\u003C\u002Fli>\u003Cli>模型安全与对齐基础，包括越权提示、敏感信息泄露和输出内容审核。\u003C\u002Fli>\u003C\u002Ful>\u003Cp>总体而言，大语言模型应用并不是玄学。理解 Transformer 的序列建模方式，尊重上下文窗口的工程边界，再用结构化提示词把任务说清楚，输出质量通常会明显提升。对开发者来说，这三块基础越扎实，后续做 Agent、RAG 和自动化工作流时就越不容易踩坑。\u003C\u002Fp>\n\u003Csection class=\"portal-sources\" style=\"margin-top:2em;font-size:14px;line-height:1.7;color:#5c5850;\">\u003Cp style=\"margin:0 0 0.5em;font-weight:600;\">参考来源\u003C\u002Fp>\u003Cul style=\"margin:0;padding-left:1.25em;\">\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fzhuanlan.zhihu.com\u002Fp\u002F338817680\" rel=\"noopener noreferrer\" target=\"_blank\">Transformer模型详解（图解最完整版） - 知乎\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fblog.csdn.net\u002Fweixin_42475060\u002Farticle\u002Fdetails\u002F121101749\" rel=\"noopener noreferrer\" target=\"_blank\">【超详细】【原理篇&实战篇】一文读懂Transformer-CSDN博客\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fwww.runoob.com\u002Fpytorch\u002Ftransformer-model.html\" rel=\"noopener noreferrer\" target=\"_blank\">Transformer 模型 - 菜鸟教程\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fwww.zhihu.com\u002Ftardis\u002Fzm\u002Fart\u002F600773858\" rel=\"noopener noreferrer\" target=\"_blank\">一文了解Transformer全貌（图解Transformer）\u003C\u002Fa>\u003C\u002Fli>\u003Cli style=\"margin:0.25em 0;\">\u003Ca href=\"https:\u002F\u002Fzhuanlan.zhihu.com\u002Fp\u002F675569052\" rel=\"noopener noreferrer\" target=\"_blank\">Transformer原理详解（图解完整版附代码） - 知乎\u003C\u002Fa>\u003C\u002Fli>\u003C\u002Ful>\u003C\u002Fsection>\n\u003Csection class=\"portal-disclaimer\" data-portal-disclaimer=\"1\" style=\"margin-top:2.5em;padding-top:1.25em;border-top:1px solid #e8e4dc;font-size:14px;line-height:1.7;color:#7a756c;\">\u003Cp style=\"margin:0;\">免责声明：本文内容整理自公开网络资料，仅供学习交流参考，不代表观山书院立场。如涉及版权侵权，请联系我们删除。\u003C\u002Fp>\u003Cp style=\"margin:0.75em 0 0;\">联系邮箱：\u003Ca href=\"mailto:chenxj.g@gmail.com\">chenxj.g@gmail.com\u003C\u002Fa>\u003C\u002Fp>\u003C\u002Fsection>","2026-09-29T12:22:23.745054+08:00","2026-09-29T12:25:25.027606+08:00","2026-09-29T21:35:02.09484+08:00",{"id":115,"locale":13,"slug":116,"type":15,"title":117,"summary":118,"content_html":119,"video_url":19,"cover_url":20,"author":21,"category":22,"status":23,"source_job_id":120,"published_at":121,"created_at":122,"updated_at":123},157,"ai-agent-落地实战-搭可控闭环-三天跑通低风险场景","AI Agent 落地实战：搭可控闭环，三天跑通低风险场景","读完可拿到任务闭环表与回滚清单，马上选一个低风险场景，用三天完成 Agent 试点验证。","\u003Csection data-gzh-readable=\"1\" style=\"margin:0;padding:0;\">\u003Cdiv data-gzh-header=\"1\">\u003Cp style=\"font-size:15px;color:#888;text-align:center;margin-top:8px;\">读完可拿到任务闭环表与回滚清单，马上选一个低风险场景，用三天完成 Agent 试点验证。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Cp style=\"font-size:14px;color:#999;text-align:center;margin-top:4px;\">作者：进学斋 · 观山书院\u003C\u002Fp>\u003Cp style=\"font-size:13px;color:#999;text-align:center;margin:0 0 6px 0;\">全文约3680字 · 阅读约需13分钟\u003C\u002Fp>\u003Chr style=\"border:none;border-top:1px solid #eee;margin:24px 0;\" \u002F>\u003C\u002Fdiv>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">最近不少团队把 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Agent\u003C\u002Fcode> 从演示推上业务：聊天窗口能写方案、查资料、答流程，可一进真实系统，就被权限、回滚、审计卡住。据公开资料\u002F行业观察，多数试点失败不是因为不会答，而是因为无法收场。这篇给你一套可控闭环框架：一张任务场景表、一条链路拆解、一份上线检查清单，读完能立即选一个低风险场景做三天试点。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">一、先选任务：从高频、低损、可验证切入\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Agent\u003C\u002Fcode> 落地，第一刀不要砍在大流程上。优先选输入输出清晰、失败代价低的任务，比如资料整理、草稿生成、工单分类。你可以先拿它们做试验：答错了，最多是重来；答对了，能直接看见节省的时间。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">反过来，自动改价、自动发布、自动删除这类动作，先别放权。它们往往直接触达外部状态，一旦误判，收场成本会迅速扩大。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">选场景时，用三问过滤：是否能留痕、是否能人工介入、是否能回滚。三者缺一，先不放权。留痕让过程可复盘，人工介入给异常兜底，回滚让错误可关闭。没有这三件事，所谓自动化只是把风险推得更远。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">把目标写成可验收项。别只说效率提升，可以盯人工复核率、平均处理时长、异常任务数、结果采纳率。先跑一轮基线，再谈优化。指标不是拍脑袋来的，是让试点变成判断题。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">任务类型\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">适合切入点\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">不适合切入点\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">建议动作\u003C\u002Fth>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">资料整理\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">抽取要点、归类标签、生成摘要\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">直接写正式库并批量发布\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">只读检索，结果先入暂存区\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">草稿生成\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">给文案、回复、方案提供初稿\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">替人确认外发\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">生成草稿，等待人工编辑确认\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">工单分类\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">识别类型、优先级、建议路由\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">自动关闭客户工单\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">只给建议，保留人工开关\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">数据处理\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">字段映射、缺失值提醒、异常提示\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">直接改线上业务表\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">产出差异报告，人工审批后执行\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">交易操作\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">查询订单、解释失败原因\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">自动退款、改价、发布\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">只读查询，写入动作进审批链\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftable>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">你可以马上做的三步\u003C\u002Fh3>\u003Col>\u003Cli>列出近两周重复任务，标出输入、输出、错误代价。\u003C\u002Fli>\u003Cli>用留痕、人工介入、回滚三问筛出 1 个候选场景。\u003C\u002Fli>\u003Cli>给该场景建基线：记录当前人工耗时、复核比例、常见错误。\u003C\u002Fli>\u003C\u002Fol>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 链路清楚，闭环才稳。\u003C\u002Fem>\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fsz_mmbiz_jpg\u002F4WyfSFibfkRNElAlj8WTYjibd1II3KfDNDh8H3QzQ8RH8YQGC0kXJGUEicZFy6V5fSB6yeOMySabW6GCDibdG5v7pXFez8KQdrgGukCiaTHWAx3c\u002F0?from=appmsg\" alt=\"配图·远山层叠\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·远山层叠\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">二、拆链路：把 Agent 变成事件、工具与状态\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">很多 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Agent\u003C\u002Fcode> 试点失败，不是模型不会思考，而是没有工程链路。你不能把一个聊天窗口当成系统。真正可落地的 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Agent\u003C\u002Fcode>，要拆成 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">事件\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">工具\u003C\u002Fcode> 与 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">状态\u003C\u002Fcode>：谁触发、它计划什么、调用哪些工具、结果存在哪里、人如何看到。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">先画最小链路：\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">事件触发\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">模型规划\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">调用工具\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">写入状态\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">返回结果\u003C\u002Fcode>。每个节点都要能观察。如果某一步只能靠 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Prompt\u003C\u002Fcode> 解释，而不能落到日志、状态表或审计字段，后续排障会很痛苦。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">最小链路拆解步骤\u003C\u002Fh3>\u003Col>\u003Cli>定义事件：把任务入口从用户聊天改成 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">task.created\u003C\u002Fcode>。\u003C\u002Fli>\u003Cli>定义目标：把模糊指令改成可验收产物，如摘要、分类、草稿、建议。\u003C\u002Fli>\u003Cli>定义工具：拆分 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">只读工具\u003C\u002Fcode> 与 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">写入工具\u003C\u002Fcode>，先让只读工具跑通。\u003C\u002Fli>\u003Cli>定义状态：每个任务记录当前步骤、输入、输出、耗时、错误码。\u003C\u002Fli>\u003Cli>定义返回：结果不直接覆盖线上，先进入暂存区或审批区。\u003C\u002Fli>\u003C\u002Fol>\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">task_id = create_event(source, payload)\nplan = agent.plan(goal=task.goal, context=task.state)\nread_output = tool.search(query=plan.query)\ndraft = tool.generate(content=read_output)\nstate.save(task_id, status=draft_ready, snapshot=read_output)\nhuman.review(draft)\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">只读工具\u003C\u002Fcode> 和 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">写入工具\u003C\u002Fcode> 必须分开。查询、检索、摘要、格式转换可以先用；下单、发布、删除、退款、改价必须先进入审批链。这个边界不写清楚，\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Agent\u003C\u002Fcode> 越聪明，越容易把小错变成事故。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">长任务要保存 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">中间状态\u003C\u002Fcode>。比如检索完成，但生成超时；如果状态里没有记录，重试只能从头跑，既浪费工具调用，也容易产生重复结果。你可以为关键步骤留断点：已完成、可恢复、需要人工确认。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 边界清楚，系统才敢交给机器。\u003C\u002Fem>\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkRObTRFeIbU32B3R18OK6qgVeiaBCUrYmbAWiaKxVFAiabL13icKQd1EibkDtMsTz1wia2Mj9ibFABpqRPibUEoCC8m0aC62sXh7EuiblnNc\u002F0?from=appmsg\" alt=\"配图·林间静趣\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·林间静趣\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三、设边界：权限、回滚与审计\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Agent\u003C\u002Fcode> 不能靠我觉得工作。落地时要给每个工具配置 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">白名单\u003C\u002Fcode> 和参数校验。路径能写哪里，字段能改什么，时间窗口是否允许，额度范围是否越界，都要由工具层判断，而不是等模型生成后再靠 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Prompt\u003C\u002Fcode> 劝它别乱来。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">一个常见误区，是把 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Prompt\u003C\u002Fcode> 当成安全机制。提示词可以提高风格一致性，但无法替代权限控制。真正可靠的边界，落在工具入参校验、作用域限制、审批链路和状态回滚上。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">回滚三件套\u003C\u002Fh3>\u003Col>\u003Cli>操作前快照：写入动作前，保存原状态或可恢复副本。\u003C\u002Fli>\u003Cli>失败补偿动作：失败时自动取消未完成步骤，避免半完成状态残留。\u003C\u002Fli>\u003Cli>人工取消入口：提供一键停止、驳回、恢复到上一状态的操作。\u003C\u002Fli>\u003C\u002Fol>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">审计留痕也是硬要求。每条动作至少记录：谁触发、调用了哪个工具、输入输出摘要、人工是否确认、结果状态是否回滚。没有留痕，上线只是把不确定性写进生产。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">上线前检查清单\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 工具是否按 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">只读\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">写入\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">危险操作\u003C\u002Fcode> 分级。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 写入动作是否全部进入审批链。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 危险操作是否默认禁用，需白名单开启。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 参数是否做范围校验，如路径、字段、时间、额度。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 任务状态是否保存中间结果，可断点恢复。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 审计日志是否记录触发人、工具名、输入输出摘要、确认人。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 回滚是否能在人工介入后完成。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 异常是否可转人工，而不是无限重试。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 三天不贪，小场景才稳。\u003C\u002Fem>\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">四、三天试点：只读、审批、小流量\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Agent\u003C\u002Fcode> 试点不要一次铺开。你可以用三天节奏，把不确定性逐步拆开：第一天只读，第二天半自动，第三天小流量。每两天只做一件事，判断成本最低，风险也最小。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第一天：只读跑通\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">只采集任务样本，让 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Agent\u003C\u002Fcode> 做检索、摘要、分类、草稿建议。不改线上数据，不触发写入动作。结果先进入暂存区，和人工结果做比较。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">验收重点不是像不像，而是能不能稳定产出。空输入、缺字段、重复任务、来源不一致时，\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Agent\u003C\u002Fcode> 是否会停住并标记异常。第一天若连只读链路都不稳，不要急着放权。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第二天：半自动\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Agent\u003C\u002Fcode> 给出草稿和建议，人确认后再执行低风险动作。比如工单分类可自动标注，但关闭仍需人工；草稿可入库，但发布仍需审批。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这一天的核心指标是复核成本与纠正原因。你需要记录：哪些结果被接受，哪些被修改，哪些需要重跑。纠正原因比错误率更有价值，它会直接暴露工具、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Prompt\u003C\u002Fcode>、数据质量或流程边界的问题。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第三天：小流量\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">限定单渠道、单场景或小用户群运行。设置停止条件，如异常任务数超过基线、人工复核率过高、关键工具超时、连续重复触发。达到阈值就关闭自动化，保留只读观察。\u003C\u002Fp>\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">stop_condition = error_rate > baseline or timeout_count > threshold\nrollback = restore_snapshot + mark_failed + notify_human\nexpand = approved_by_human and audit_complete\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">小流量的目的，是拿一份可复制的判断材料：在边界清晰的前提下，\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Agent\u003C\u002Fcode> 能否稳定完成小闭环。不要一开始就追求全量替代。可扩面，再扩；可停，就能停。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">三天试点验收表\u003C\u002Fh3>\u003Col>\u003Cli>只读阶段：结果采纳率、平均处理时长、异常任务数。\u003C\u002Fli>\u003Cli>半自动阶段：人工复核成本、纠正原因分布、审批通过率。\u003C\u002Fli>\u003Cli>小流量阶段：停止条件命中次数、回滚成功次数、扩面风险清单。\u003C\u002Fli>\u003C\u002Fol>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 工程不在聊天框里，在状态、日志和边界里。\u003C\u002Fem>\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">五、常见坑：别用聊天窗口假装工程\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">很多团队做 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Agent\u003C\u002Fcode>，会把一个漂亮 Demo 当成成熟能力。能写一段流畅回复，不等于能接入业务。工程化看的是异常处理、状态保存、权限控制和回滚能力。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">四类必测边界\u003C\u002Fh3>\u003Col>\u003Cli>空输入：任务缺少关键字段时，是否阻断并说明原因。\u003C\u002Fli>\u003Cli>工具超时：检索或写入超时时，是否记录断点，是否转人工。\u003C\u002Fli>\u003Cli>重复触发：同一事件多次到达时，是否去重，是否避免重复执行。\u003C\u002Fli>\u003Cli>权限不足：写入动作被拒绝时，是否进入审批，而不是伪装成功。\u003C\u002Fli>\u003C\u002Fol>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第二个坑，是过早追求全自动。很多事故扩大，往往不是模型完全不会，而是一次省审批、一次绕过边界。流程没有先可验证，就急着放权，等于把生产环境当试验田。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第三个坑，是把 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Prompt\u003C\u002Fcode> 当唯一控制层。提示词可以调整表达，但控制不了工具作用域，也替代不了审批和回滚。你要让边界落到代码里：工具白名单、参数校验、状态机、审计日志，一个都不能少。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">落地后的三条可执行建议\u003C\u002Fh3>\u003Col>\u003Cli>为每个 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Agent\u003C\u002Fcode> 任务建立状态表，记录触发、规划、工具调用、结果、人工确认。\u003C\u002Fli>\u003Cli>把写入动作统一接入审批链路，只允许已验证的只读动作先行。\u003C\u002Fli>\u003Cli>为每个试点准备停止条件和回滚脚本，先能停，再谈自动化。\u003C\u002Fli>\u003C\u002Fol>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 闭环不在模型嘴里，在可验收的状态里。\u003C\u002Fem>\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三句话讲透\u003C\u002Fh2>\u003Col>\u003Cli>选一个可验证小闭环：高频、低损、能留痕、能人工介入、能回滚。\u003C\u002Fli>\u003Cli>把边界写成工具权限和回滚机制：只读先行，写入审批，危险默认禁用。\u003C\u002Fli>\u003Cli>用三天完成从只读到小流量的判断：先比结果，再看复核成本，最后设停止条件。\u003C\u002Fli>\u003C\u002Fol>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以把这份任务闭环表与回滚清单收藏起来，转发给正在推进 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">Agent\u003C\u002Fcode> 试点的同事。今天先选一个低风险场景，按只读、半自动、小流量三步，拿第一轮数据说话。\u003C\u002Fp>\u003C\u002Fsection>\n\u003Csection class=\"portal-disclaimer\" data-portal-disclaimer=\"1\" style=\"margin-top:2.5em;padding-top:1.25em;border-top:1px solid #e8e4dc;font-size:14px;line-height:1.7;color:#7a756c;\">\u003Cp style=\"margin:0;\">免责声明：本文内容整理自公开网络资料，仅供学习交流参考，不代表观山书院立场。如涉及版权侵权，请联系我们删除。\u003C\u002Fp>\u003Cp style=\"margin:0.75em 0 0;\">联系邮箱：\u003Ca href=\"mailto:chenxj.g@gmail.com\">chenxj.g@gmail.com\u003C\u002Fa>\u003C\u002Fp>\u003C\u002Fsection>",3491398,"2026-09-29T12:19:36+08:00","2026-09-29T12:36:55.389442+08:00","2026-09-29T21:35:01.868749+08:00",{"id":125,"locale":13,"slug":126,"type":15,"title":127,"summary":128,"content_html":129,"video_url":19,"cover_url":20,"author":21,"category":22,"status":23,"source_job_id":130,"published_at":131,"created_at":132,"updated_at":133},159,"agent-落地实战-把失败写成可恢复状态","Agent 落地实战：把失败写成可恢复状态","读完可拿到业务事件分片表、失败恢复清单和上线前验证步骤，两天内完成一次可控 Agent 试点。","\u003Csection data-gzh-readable=\"1\" style=\"margin:0;padding:0;\">\u003Cdiv data-gzh-header=\"1\">\u003Cp style=\"font-size:15px;color:#888;text-align:center;margin-top:8px;\">读完可拿到业务事件分片表、失败恢复清单和上线前验证步骤，两天内完成一次可控 Agent 试点。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Cp style=\"font-size:14px;color:#999;text-align:center;margin-top:4px;\">作者：进学斋 · 观山书院\u003C\u002Fp>\u003Cp style=\"font-size:13px;color:#999;text-align:center;margin:0 0 6px 0;\">全文约3789字 · 阅读约需13分钟\u003C\u002Fp>\u003Chr style=\"border:none;border-top:1px solid #eee;margin:24px 0;\" \u002F>\u003C\u002Fdiv>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这篇直接给你一张事件分片表、失败恢复清单和上线前检查步骤。你可以用它跑一次低风险 Agent 试点：能查资料、能生成草稿、能记录状态，失败时知道谁接手、怎么恢复、靠什么证据复盘。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">最近不少团队把 Agent 跑成了“会议室明星”：它能读工单、查知识库、写草稿，演示里一句话就能把资料聚起来。一旦接进真实业务，问题就露出来：连续调用要确认状态，失败要重试，写操作要留痕，审计要能追。\u003C\u002Fp>\n\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">一、背景：Demo 为什么会停在会议室\u003C\u002Fh2>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">问答、检索、草稿，这些任务短、失败轻，适合演示。业务要的是连续执行：先查工单，再读知识库，再生成回复草稿，再把结果写进系统。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">链路一长，失败就不再是“结果不准”，而是“有没有做过”“是否重复做”“能不能撤销”。据公开资料和行业观察，很多试点在模型选型上很快定下来，却在事件分片、状态记录、回滚动作上迟迟补不齐。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以先选一个低风险闭环：内部工单摘要、日志归类、客服知识检索。关键不是任务简单，而是失败后不会污染生产数据。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">—— 能跑起来只是起点，可恢复才是上线资格。\u003C\u002Fp>\n\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fsz_mmbiz_jpg\u002F4WyfSFibfkRPEsnGZzO4vcZZgrgUYbxicOtvtrT7HInqmLrqxBlV1M3bQZEicHjzAyR2IgaszGn3ibX5cz9S5tbzASwuax6ppLRG4JvhiaATWP9Y\u002F0?from=appmsg\" alt=\"配图·春野柔光\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·春野柔光\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">二、机制：状态分片与运行证据\u003C\u002Fh2>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">1. 把长流程切到可停可审\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">一个可运行的 Agent，不应被当成一次性黑盒。更稳的做法是把流程切成事件、判断、调用、校验、交付等短节点。每个节点都要有输入、输出、超时、重试、人工接管点。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">比如“客服工单摘要”可拆成：读取工单、检索知识库、生成草稿、检查敏感字段、保存草稿、通知人工。每一步单独有状态，失败时才知道卡在哪里。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">2. 每个节点留下最小证据包\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">证据包不是聊天记录，也不是自由文本。它要能回答：谁、在哪一步、用了什么工具、做了什么动作、有没有继续自动跑。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">最小字段可以很少：\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">task_id\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">event_id\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">step_id\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">input_digest\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">tool_name\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">params_masked\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">result_status\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">duration_ms\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">next_action\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">retryable\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">human_required\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">rollback_basis\u003C\u002Fcode>。\u003C\u002Fp>\n\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">{\n  "task_id": "ticket-042",\n  "event_id": "cust-export-timeout",\n  "step_id": "summarize-draft",\n  "input_digest": "客户报障：导出报表超时",\n  "tool_name": "kb.search",\n  "params_masked": "tenant=t-a1b2|query=export",\n  "result_status": "success",\n  "duration_ms": 1800,\n  "next_action": "save_draft",\n  "retryable": false,\n  "human_required": false,\n  "rollback_basis": "no_write"\n}\u003C\u002Fcode>\u003C\u002Fpre>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这段记录不追求漂亮，它追求可追问。审计人员看到状态是 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">success\u003C\u002Fcode>，还要看到下一步是不是 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">save_draft\u003C\u002Fcode>；看到超时是 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">timeout\u003C\u002Fcode>，也要知道它有没有进入人工确认。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">3. 状态别靠自由文本\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">“已生成草稿”这种描述很自然，但审计时容易失效。更可靠的状态字段是：是否已执行、是否可重试、是否需要人工确认、是否有回滚依据。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果写操作已发出但外部系统超时，不能简单标成失败，也不能自动重发。它至少要有“可能已发生”“需要人工确认”“可补偿动作”三个标记。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">—— 工程不是让机器更会说话，而是让每一步都能被追问。\u003C\u002Fp>\n\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkRN0bZC7VuyXtxwZJiaykyZUcUovfqyfLshkRXiaA7yEYMteC3VReWzdeVxcNSVOXSVAIqkJNoqKIBLXxrEtWEFN7K8NTqdd63dbk\u002F0?from=appmsg\" alt=\"配图·庭园小径\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·庭园小径\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三、步骤：两天跑通小闭环\u003C\u002Fh2>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果排期紧，可以把第三天的检查并入第二天尾段。核心是先让证据完整，再让流程跑顺。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">Day1：建立准入和权限\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">选一个低风险事件，例如内部工单摘要。先写任务准入表：什么事件能进、什么字段必须脱敏、什么结果不能自动发送。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">再写工具权限表：只开放只读查询、摘要生成、草稿保存。生产数据库写入、消息发送、退款补偿这类动作，先不要给 Agent。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">事件分片表\u003C\u002Fh3>\n\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\n\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">节点\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">输入\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">输出\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">超时\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">失败动作\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">人工点\u003C\u002Fth>\u003C\u002Ftr>\n\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">读取工单\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">工单号、租户标识\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">问题摘要、字段列表\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">接口约定\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">跳过并提示人工\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">字段缺失时确认\u003C\u002Ftd>\u003C\u002Ftr>\n\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">检索知识库\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">摘要关键词\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">候选资料片段\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">接口约定\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">降级为本地缓存\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">无结果时转人工\u003C\u002Ftd>\u003C\u002Ftr>\n\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">生成草稿\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">工单摘要、候选资料\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">回复草稿\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">接口约定\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">停止并保留状态\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">敏感词命中时审核\u003C\u002Ftd>\u003C\u002Ftr>\n\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">保存草稿\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">草稿文本\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">草稿链接、任务状态\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">接口约定\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">不自动重试，查确认号\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">写入异常时接管\u003C\u002Ftd>\u003C\u002Ftr>\n\u003C\u002Ftable>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这张表不需要复杂，但它把“能做什么”和“不能自动做什么”写清楚。尤其失败动作列，最好直接写动作，不写形容词。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">Day2：接入状态记录与失败恢复\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">把状态记录接到日志或任务系统里。跑三类用例：正常路径、工具超时、外部数据缺失。每个用例都生成一条可复盘证据。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">失败恢复动作要按类型区分：\u003C\u002Fp>\n\u003Cul>\n\u003Cli>只读失败：可重试，也可降级为人工检索。\u003C\u002Fli>\n\u003Cli>写操作失败：停止自动重试，查确认号和幂等键。\u003C\u002Fli>\n\u003Cli>外部依赖超时：先进入“可能已发生”，再触发人工确认或补偿任务。\u003C\u002Fli>\n\u003C\u002Ful>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">失败恢复清单可以这样列：\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 是否存在未完成的写操作？\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 是否已保存确认号或幂等键？\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 是否能把状态改回可恢复分支？\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 是否能通知人工而不污染业务数据？\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 是否能导出一张最小证据包？\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果这五项都答不出，不建议进入灰度写入。Agent 不是不能失败，而是失败后不能变成一团黑雾。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">Day3：上线前检查\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这一步也可压缩到 Day2 尾段。验收只看四件事：无证据不交付、未确认不写库、未回滚不自动重试、未审计不开放新权限。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">交付物不是 PPT，而是三件：一张事件分片表、一份失败恢复清单、一组只读试点日志摘要或截图。它们证明过程可追，结果可停。\u003C\u002Fp>\n\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">四、坑与选型：先稳定，再聪明\u003C\u002Fh2>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">常见坑\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">一次给 Agent 太多工具，链路会看似聪明，实则不可控。模型如果靠猜业务规则，错误就会进入执行层。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">失败后无限重试，是另一个高风险动作。尤其是写接口没有幂等键时，重试可能造成重复通知、重复扣减、重复工单。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">用自由文本当状态，会让审计失去抓手。复盘时只看到一段说明，却看不到“是否已执行、是否需人工、是否可回滚”。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">选型时先看运行证据\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">框架、平台、协议都可以换，但运行证据不能缺。选型至少看四项：是否有可恢复状态、是否有权限边界、是否有审计记录、是否能人工接管。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">写操作要上三件套：预写清单、确认号、可补偿动作。预写清单让 Agent 先列出将要执行的变更；确认号用于追踪这次变更；补偿动作让失败后能恢复到可处理状态。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">预写清单可以很短：\u003C\u002Fp>\n\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">目标：更新工单状态\n动作：调用 ticket.update\n参数：状态=待人工确认，租户脱敏，草稿链接保留\n影响：仅内部系统\n回滚：可恢复为待确认前状态\n确认号：pending-042-a1b2\n补偿：发送人工复核提醒，不重复写库\u003C\u002Fcode>\u003C\u002Fpre>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这份清单的作用，是阻止模型用“我觉得可以”代替系统判断。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">三档落地对比表\u003C\u002Fh3>\n\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\n\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">阶段\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">工具权限\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">人工接管\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">回滚方式\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">验收证据\u003C\u002Fth>\u003C\u002Ftr>\n\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">只读试点\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">查询、检索、摘要、草稿生成\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">失败时人工确认即可\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">无需回滚\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">日志摘要、输入输出状态\u003C\u002Ftd>\u003C\u002Ftr>\n\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">灰度写入\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">草稿保存、低影响内部写入\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">异常自动转人工\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">确认号加补偿动作\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">事件分片表、失败恢复清单\u003C\u002Ftd>\u003C\u002Ftr>\n\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">生产写入\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">白名单接口、幂等写入\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">双重确认\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">预写清单加恢复点\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">审计导出、回滚演练记录\u003C\u002Ftd>\u003C\u002Ftr>\n\u003C\u002Ftable>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这张表比能力介绍更有用。它能帮团队把讨论从“模型行不行”拉到“权限、证据、回滚、接管是否齐了”。\u003C\u002Fp>\n\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">五、延伸：从只读试点到灰度运行\u003C\u002Fh2>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">分档开放，不一次性松手\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">只读试点成功后，再按风险等级打开草稿保存、低影响写入、生产写入。每一档都要重新验收，不因上一档通过就直接升级。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">草稿保存可以先限定内部系统；低影响写入可限定小范围租户或测试数据；生产写入必须有双重确认。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">升级前问三个问题：失败后能不能停、写出去能不能收、审计时能不能看懂。三个都答不上，先别扩范围。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">月度复盘：别只看成功率\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">观察失败恢复类型、人工接管率、重复调用原因，比单纯看模型打分更有用。据行业实践，很多优化方向并不来自换模型，而来自补齐工具契约和状态字段。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果重复调用多，先看任务拆分；如果人工接管多，先看权限和确认流程；如果失败恢复乱，先看工具契约和状态字段。\u003C\u002Fp>\n\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">三句话讲透\u003C\u002Fh3>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">任务要能停，动作要能审，失败要能恢复。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这三句话不是原则，而是验收口径。停，看是否有中断点和人工接管；审，看是否留下事件、工具、参数、状态；恢复，看是否有只读、写入、超时三类动作边界。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">下一步不是盲目扩大自动执行范围，而是把证据、回滚、权限和审计做成可复制的工程模板。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">—— 把失败写进状态表，Agent 才从演示走向工程。\u003C\u002Fp>\n\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">收藏或转发给下一次 Agent 评审：先贴事件分片表、失败恢复清单和上线前检查项。让下一次试点讨论不再停在“能不能跑”，而是从“失败时谁接手、怎么回滚、靠什么证据判断”开始。\u003C\u002Fp>\u003C\u002Fsection>\n\u003Csection class=\"portal-disclaimer\" data-portal-disclaimer=\"1\" style=\"margin-top:2.5em;padding-top:1.25em;border-top:1px solid #e8e4dc;font-size:14px;line-height:1.7;color:#7a756c;\">\u003Cp style=\"margin:0;\">免责声明：本文内容整理自公开网络资料，仅供学习交流参考，不代表观山书院立场。如涉及版权侵权，请联系我们删除。\u003C\u002Fp>\u003Cp style=\"margin:0.75em 0 0;\">联系邮箱：\u003Ca href=\"mailto:chenxj.g@gmail.com\">chenxj.g@gmail.com\u003C\u002Fa>\u003C\u002Fp>\u003C\u002Fsection>",3491397,"2026-09-29T12:15:42+08:00","2026-09-29T12:54:47.843925+08:00","2026-09-29T21:35:01.8582+08:00",{"id":135,"locale":13,"slug":136,"type":15,"title":137,"summary":138,"content_html":139,"video_url":19,"cover_url":20,"author":21,"category":22,"status":23,"source_job_id":140,"published_at":141,"created_at":142,"updated_at":143},161,"agent试点启动包-三表七步验收法","Agent试点启动包：三表七步验收法","读完可拿任务准入表、权限边界表与验收表，用七天试点判断哪些操作可自动执行、需人工审批或必须禁用。","\u003Csection data-gzh-readable=\"1\" style=\"margin:0;padding:0;\">\u003Cdiv data-gzh-header=\"1\">\u003Cp style=\"font-size:15px;color:#888;text-align:center;margin-top:8px;\">读完可拿任务准入表、权限边界表与验收表，用七天试点判断哪些操作可自动执行、需人工审批或必须禁用。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Cp style=\"font-size:14px;color:#999;text-align:center;margin-top:4px;\">作者：进学斋 · 观山书院\u003C\u002Fp>\u003Cp style=\"font-size:13px;color:#999;text-align:center;margin:0 0 6px 0;\">全文约3261字 · 阅读约需11分钟\u003C\u002Fp>\u003Chr style=\"border:none;border-top:1px solid #eee;margin:24px 0;\" \u002F>\u003C\u002Fdiv>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">最近讨论 AI Agent，常听到一句话：模型会写、会查、会调用工具。可一旦接到真实工单，问题马上出现：谁批准它改订单？答错了怎么回退？哪些步骤只能生成草稿？\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这篇文章不讲宏大架构，只给一套试点启动包：三张表收口场景，七天七步跑通验收，让业务、技术、运营在同一口径下判断，今天可自动化什么，必须人工卡在哪里。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">一、先判断该不该做：Agent 试点的三处缺口\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">不少团队立项时从模型能力出发，先找最炫的任务。更稳的方法是反过来，先找业务缺口。缺口通常有三类：信息整理慢、跨系统搬运多、规则判断易遗漏。若 Agent 只是把答案说得更流畅，却没有改变流程成本，就不值得做。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">1. 先挑高频、低破坏、可验收\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">试点任务最好满足三个条件：发生频率高，出错影响有限，结果能拿样本判定。工单摘要、资料归类、草稿生成适合先做；支付退款、批量改价、合同盖章不适合首批。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以用一句话筛选：如果这件事每天发生，且一次错误能在短时间内补救，就适合进入只读试点。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">2. 每个任务必须有输入、输出、成功条件\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">很多项目卡在能聊不能交付，是因为任务没有边界。Agent 输入什么、输出什么、什么算通过、失败退到哪，都要写清楚。\u003C\u002Fp>\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">任务示例：客户工单首屏摘要。输入=工单编号|用户原话|附件清单|历史交互记录；输出=三行摘要|待办列表|风险等级候选值；成功=摘要覆盖关键诉求、待办可转指定组、风险等级可统计；失败=保留原文，标记需人工初筛，不生成自动回复。\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">若写不出失败退路，说明场景还太虚。先不要接工具。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">3. 首批默认只读或草稿态\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">让 Agent 产生候选，而不是直接改线上数据。只读模式能看到上下文，草稿模式能生成可人工修改的结果。这两档适合建立信任，也能保留追责入口。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 先收口，再放权\u003C\u002Fem>\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkRMjDYF1zHTrAwUTtmibxnT52CQElosaibPV1d8yjTQxuxGlficDuoFMhrRtKPcrmZCJSCLERLlR5c4j4D6qPZJJx32wTZWIVRqBW8\u002F0?from=appmsg\" alt=\"配图·湖光暮色\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·湖光暮色\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">二、三张立项表：把场景收口为可验收试点\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">试点不是开一个对话框。落地前先把场景变成三张表：准入表决定做什么，权限表决定能碰什么，验收表决定怎样才算过。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">1. 任务准入表\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这张表适合业务负责人填，目标是避免什么都想做。\u003C\u002Fp>\u003Cul>\u003Cli>任务名称：例如售后工单分派建议。\u003C\u002Fli>\u003Cli>频率：高、中、低。高频才容易形成规模收益。\u003C\u002Fli>\u003Cli>影响面：只影响内部流程，还是触达客户、资金、权限。\u003C\u002Fli>\u003Cli>可回滚程度：是否能通过草稿、撤销、人工覆盖快速补救。\u003C\u002Fli>\u003Cli>负责人：谁判断质量，谁处理异常。\u003C\u002Fli>\u003C\u002Ful>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">2. 权限边界表\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这张表由技术和安全共同维护。Agent 不能拿到万能密钥，而要按工具、字段、动作分级。\u003C\u002Fp>\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">权限示例：订单售后场景。工具\u002FAPI=订单查询接口|工单创建接口|用户通知接口；读写级别=订单查询只读|工单创建草稿|用户通知需审批；敏感字段=手机号|地址|退款原因|发票信息默认脱敏；审批人=售后主管或值班运营；禁用项=自动退款|批量改价|删除原始工单|跨租户读取。\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">原则是：读比写宽，草稿比执行宽，敏感动作必须有审批人和留痕。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">3. 验收表\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">验收表把结果分成三档，避免上线会上只剩看起来不错。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Cthead>\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">档位\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">触发条件\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">处理动作\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">样本要求\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">错误容忍\u003C\u002Fth>\u003C\u002Ftr>\u003C\u002Fthead>\u003Ctbody>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">自动通过\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">输入完整、格式校验通过、风险字段为空或低风险\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">写入候选池，进入人工队列\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">首批覆盖正常样例与边界样例\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">只允许低风险格式或提示类错误\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">人工复核\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">涉及敏感字段、历史结论冲突、工具返回异常、判断依据不足\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">暂停自动执行，提交审批人确认\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">按类别抽样复核\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">可接受误判，但必须记录原因\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">直接禁用\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">跨系统写入、资金处置、客户承诺、合规条款生成\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">仅生成说明文本，不执行动作\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">建立禁用清单并定期重审\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">零容忍，越界即熔断\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftbody>\u003C\u002Ftable>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">样本量不要拍脑袋。据公开资料与行业实践，首批可用正常样例、历史失败样例、边界样例三类各抽一批；能形成可复算的通过率、误判类型和人工耗时，再谈放大。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 七天不是冲刺，是校准\u003C\u002Fem>\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkRORCc3Mr3XXxnwe1YVVazFTcTn5yAfTVZEBx2OCXJklf6I4gsicvjvKiccorvRGJ513iaPUuX63mQ91niav2Cwtyt2xUvZnYeVBMqE\u002F0?from=appmsg\" alt=\"配图·晨雾山色\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·晨雾山色\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三、七天试点节奏：从沙箱到可控运行\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第1步：建立任务画像\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">拉齐业务、技术、运营，确认一个主场景。不要同时做客服、营销、研发助手。当天输出物是任务准入表和权限边界表草稿。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第2步：跑正常历史样例\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">接入脱敏历史数据，先跑常见、完整、低风险任务，确认 Agent 能稳定输出格式。这一步不要追求惊艳答案，只追求可复用结构。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第3步：压异常样例\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">准备缺字段、乱码、超长文本、互相冲突的记录。异常样例能暴露 Agent 的猜测边界，也能提前发现流程缺口。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第4步：开放最小工具权限\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">从最安全的工具开始，例如查询、摘要、草稿创建。每次调用都要带日志字段：调用者、工具名、输入摘要、输出摘要、耗时、结果状态。\u003C\u002Fp>\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">示例日志字段：event=agent_tool_call；tool=ticket.create_draft；scope=read_write_draft；actor=ops_01；result=success；latency_ms=320；trace_id=pilot_07。\u003C\u002Fcode>\u003C\u002Fpre>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第5步：人工复核并记录误判原因\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">让复核人不只点通过或驳回，还要记录原因：缺上下文、规则未更新、工具选择错误、模型臆测、字段脱敏不足。误判原因比准确率更重要。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第6步：做故障回退演练\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">故意制造三类问题：接口超时、权限不足、输出不符合格式。观察是否能退回草稿模式、是否能找到负责人、是否能保留人工处理入口。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第7步：输出分级清单\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">复盘会只回答三个问题：哪些可自动，哪些需审批，哪些应禁用。随后确定观测指标：一次任务平均耗时、人工干预率、错误回退率、敏感操作越界次数。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 能跑不是终点，能算清才是\u003C\u002Fem>\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">四、常见坑与选型：把成本和风险算清楚\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">1. 选型不追新，先看三件事\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">模型、提示词、工具链不要按最新比较。稳定、可审计、可控成本更重要。稳定看格式是否可校验；可审计看调用是否能追踪；可控成本看耗时、调用次数和失败重试带来的额外消耗。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Cthead>\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">比较项\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">适合试点的做法\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">常见坑\u003C\u002Fth>\u003C\u002Ftr>\u003C\u002Fthead>\u003Ctbody>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">模型\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">固定版本候选池，保留可替换接口\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">频繁换模型，结果不可比\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">提示词\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">模板化管理，记录版本号\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">口头微调，无法复盘\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">工具链\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">最小权限、白名单、沙箱运行\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">一个 Agent 挂满所有接口\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">数据\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">脱敏样本、可回放日志\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">直接用生产敏感数据调试\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">成本\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">按成功交付次数统计\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">只看单次消耗，不看人工返工\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftbody>\u003C\u002Ftable>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">2. 至少埋三类日志\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">请求耗时、工具调用成功或失败、人工干预点。没有这三类，就不知道优化什么。观测不是给老板看漂亮曲线，而是给第二天定位问题用。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以先做最小版：一行事件日志，加一个追踪编号。后续再补监控面板。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">3. 长链任务先拆成短步骤\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">不要把读完资料、判断风险、生成方案、发送邮件一口气交给 Agent。拆成摘要、分类、草稿、审批四段，每段可验证。长链越短，失败越容易定位，成本也越容易算清。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">启动前检查清单\u003C\u002Fh3>\u003Cul>\u003Cli>☐ 已选定一个主场景，不混入三个以上业务线。\u003C\u002Fli>\u003Cli>☐ 已写清输入、输出、成功条件与失败退路。\u003C\u002Fli>\u003Cli>☐ 已区分只读、草稿、审批、禁用四级动作。\u003C\u002Fli>\u003Cli>☐ 已准备正常样例、失败样例、边界样例。\u003C\u002Fli>\u003Cli>☐ 已指定质量负责人和异常值班人。\u003C\u002Fli>\u003Cli>☐ 已设计回退路径，能一键退回人工流程。\u003C\u002Fli>\u003C\u002Ful>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cem>—— 上线只是换一种维护方式\u003C\u002Fem>\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">五、上线后维护：让 Agent 可追责、可回退\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">1. 建立案例库\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">好样例、坏样例、边界样例分别留档。好样例用于回归测试，坏样例用于规则补丁，边界样例用于升级审批流程。案例库不是素材收集，而是下一次事故处理的地图。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">2. 设置回滚阈值\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">不要等投诉才退。可设三类触发：连续失败达到既定次数、成本超过预算线、出现敏感操作越界。触发后自动降回草稿模式。\u003C\u002Fp>\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">回滚规则草案：if 连续失败次数 >= 阈值 then 状态=草稿模式；if 当日成本超预算线 then 限制=仅允许查询；if 敏感操作越界 then 熔断=关闭工具白名单并通知业务、技术、安全负责人。\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">阈值可按团队基线调整。行业实践里，早期宁可阈值保守，先保住信任。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">3. 明确值班和升级路径\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">Agent 不能替代最终责任人。每个自动动作必须知道：谁负责审核，谁负责处理客户问题，谁负责停用工具。若没有负责人，就不能把该动作放进自动通过。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三句话讲透\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">Agent 试点不是让模型更自由，而是让流程更清楚。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">三张表把场景收口：任务准入表回答做不做，权限边界表回答碰什么，验收表回答怎么判。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">七天七步把风险降下来：只读、异常压测、最小权限、人工复核、回退演练，最后才分级运行。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以把这篇转给业务、技术和运营三方。建议收藏，下次立项时直接对照填表。\u003C\u002Fp>\u003C\u002Fsection>\n\u003Csection class=\"portal-disclaimer\" data-portal-disclaimer=\"1\" style=\"margin-top:2.5em;padding-top:1.25em;border-top:1px solid #e8e4dc;font-size:14px;line-height:1.7;color:#7a756c;\">\u003Cp style=\"margin:0;\">免责声明：本文内容整理自公开网络资料，仅供学习交流参考，不代表观山书院立场。如涉及版权侵权，请联系我们删除。\u003C\u002Fp>\u003Cp style=\"margin:0.75em 0 0;\">联系邮箱：\u003Ca href=\"mailto:chenxj.g@gmail.com\">chenxj.g@gmail.com\u003C\u002Fa>\u003C\u002Fp>\u003C\u002Fsection>",3491395,"2026-09-29T12:05:43+08:00","2026-09-29T13:11:49.090839+08:00","2026-09-29T21:35:01.880658+08:00",{"id":145,"locale":13,"slug":146,"type":15,"title":147,"summary":148,"content_html":149,"video_url":19,"cover_url":20,"author":21,"category":22,"status":23,"source_job_id":150,"published_at":151,"created_at":152,"updated_at":153},145,"agent-不急着自动执行-规划-记忆-工具的四档上线清单","Agent 不急着自动执行：规划、记忆、工具的四档上线清单","据公开资料，梳理智能体规划、记忆、工具的控制点，形成只读、确认、受限、禁用验收清单。","\u003Csection data-gzh-readable=\"1\" style=\"margin:0;padding:0;\">\u003Cdiv data-gzh-header=\"1\">\u003Cp style=\"font-size:15px;color:#888;text-align:center;margin-top:8px;\">据公开资料，梳理智能体规划、记忆、工具的控制点，形成只读、确认、受限、禁用验收清单。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Cp style=\"font-size:14px;color:#999;text-align:center;margin-top:4px;\">作者：进学斋 · 观山书院\u003C\u002Fp>\u003Cp style=\"font-size:13px;color:#999;text-align:center;margin:0 0 6px 0;\">全文约2341字 · 阅读约需8分钟\u003C\u002Fp>\u003Chr style=\"border:none;border-top:1px solid #eee;margin:24px 0;\" \u002F>\u003C\u002Fdiv>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">读完这篇，你可以把规划、记忆与工具的新进展，整理成一张四档验收清单：哪些能只读验证，哪些需要人工确认，哪些可受限执行，哪些应该禁用。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">背景：Agent 重点正在从回答能力转向系统控制\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">据公开资料，近期 Agent 能力更新的重心，不只是回答更流畅，而是任务拆解、检索、函数调用、权限控制和回滚机制更清晰。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">行业观察显示，开发者现在可以用三问判断可控程度：能否只读验证？失败后能否停止或回滚？动作证据能否审计？这三问比单测模型能力更可靠。\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkRND2scdegicSHFc74p94DWmL7VACuiaogHicIEmibHT8T5xFCt7SVicb8t7CJL4cRfxdffIU0lpxzaJGWwV5PiavVicoDEL5Qx7EibdJlA\u002F0?from=appmsg\" alt=\"配图·庭园小径\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·庭园小径\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">新进展拆解：规划、记忆、工具各自出现哪些控制点\u003C\u002Fh2>\u003Cul>\u003Cli>据公开资料：规划能力的新控制点，不在计划文本，而在执行前后验证。一个可上线的规划，应输出步骤、前置条件、停止条件、证据链接，而不是只给一段目标描述。\u003C\u002Fli>\u003Cli>据公开资料：记忆能力的新控制点，是来源、时效和权限。长期记忆条目要标注从哪里来、何时写入、允许谁读取，否则过期信息和跨用户读取会直接变成业务风险。\u003C\u002Fli>\u003Cli>行业观察：工具调用的新控制点，集中在 schema 校验和只读优先。查询、检索、读取状态可以较早验证；写库、改配置、外发消息、资金操作，应先模拟或审批。\u003C\u002Fli>\u003Cli>行业观察：MCP 这类工具接入方式让工具数量增加，也放大接入风险。工具的发现、调用、返回、日志需要统一记录，否则线上问题无法复现。\u003C\u002Fli>\u003Cli>据公开资料：权限审批正在从一次性授权转向动作分级。不同工具应设置不同阈值，低风险动作可自动，高风险动作必须确认。\u003C\u002Fli>\u003Cli>行业观察：回滚能力成为写操作前提。无法证明幂等、补偿或撤销的修改，不应进入自动执行链路。\u003C\u002Fli>\u003Cli>据公开资料：证据链逐步成为验收要求。最终回答最好能说明依据哪个工具、哪段检索、哪个失败原因，避免把不确定信息当事实。\u003C\u002Fli>\u003Cli>行业观察：成本与预算控制被纳入 Agent 运行范围。最大步数、工具调用次数、超时时间、额度上限，是长链任务上线前的基础护栏。\u003C\u002Fli>\u003C\u002Ful>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkRNhtMwjNVndmatxwB026z8mxicOia2rHWt2YMjgpvBibKyfgia8UIkkGDRh3VrKWFWZg958p2pTpLC3koqp2ZgNBkPSRLL7mibnpsnY\u002F0?from=appmsg\" alt=\"配图·春野柔光\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·春野柔光\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">一张对比表：把能力拆成四档验收\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以按四档标记当前 Agent 能力：只读验证、人工确认、受限执行、必须禁用。表格里的控制点适合开发、测试和上线评审共同使用。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">验收档位\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">判断标准\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">允许动作\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">禁止动作\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">使用场景\u003C\u002Fth>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">只读验证\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">能生成计划、能查询、能模拟工具，但不能改变外部状态\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">读资料、查配置、检索记忆、模拟函数调用、生成证据链接\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">写库、改配置、发外部消息、真实扣费、触发生产变更\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">新能力第一次上生产前的影子评估\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">人工确认\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">Agent 能列出可执行步骤和预期影响，用户确认后才执行\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">提交变更预览、等待确认、执行单步操作、记录确认人\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">批量发布、跨租户写入、删除数据、修改权限、外发消息未确认\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">高风险工具、批量操作、可能改变外部状态的任务\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">受限执行\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">预算、步数、权限、日志、回滚都满足，才允许自动运行\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">低风险查询、缓存写入、草稿保存、可回滚状态更新\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">不可逆资金、隐私导出、生产配置变更、权限提升、无日志动作\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">稳定工具、成熟场景、结果可自动校验的动作\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">必须禁用\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">无法证明来源、无法审计、无法停止、权限过大\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">仅保留演示隔离环境，不接入真实业务\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">自动转账、自动发布、自动删除、自动改密钥、跨用户读取\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">演示顺利但控制点不清的能力，即使能跑也不上线\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftable>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">常见坑：为什么演示顺利，上线仍不稳\u003C\u002Fh2>\u003Cul>\u003Cli>据公开资料：只测顺利路径会高估 Agent 能力。验收必须加入缺字段、工具超时、记忆过期、权限拒绝、返回空结果等失败样例。\u003C\u002Fli>\u003Cli>行业观察：把工具返回当事实，会造成错误放大。最终回答应引用工具 ID、输入摘要、结果摘要或失败原因，而不是只复述工具文本。\u003C\u002Fli>\u003Cli>据公开资料：记忆和工具容易越权。检索结果也要经过权限检查，按用户、租户、项目、敏感字段做隔离。\u003C\u002Fli>\u003Cli>行业观察：长链规划容易带来多次工具调用和成本波动。上线前要设置最大步数、超时、预算和人工中断开关。\u003C\u002Fli>\u003Cli>据公开资料：只记录最终答案不够。中间步骤、工具输入、工具输出、审批记录、失败原因，都要进入可查询日志。\u003C\u002Fli>\u003Cli>行业观察：工具 schema 频繁变动会让 Agent 不稳定。对关键工具要做版本兼容和字段校验，缺失字段时返回可解释错误。\u003C\u002Fli>\u003C\u002Ful>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">开发者今天能做的三件事\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">一、先列能力清单，再标验收档位\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">用一页纸记录当前 Agent 的规划、记忆、工具能力。每项标上只读验证、人工确认、受限执行或必须禁用。标不出来，就先降级为必须禁用。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">二、选一个低风险场景做只读评估\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">不真正写数据。只让 Agent 查询资料、调用模拟工具、生成步骤草案、标注来源。观察它能否发现缺口、拒绝越权、给出可审计证据。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">三、上线前补三件基础设施\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">操作日志、来源标注、审批入口。缺任何一项，就暂不开放自动执行。日志要能还原每一步调用，来源要能追溯到工具或检索条目，审批要能明确谁确认了什么动作。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">四档验收检查清单\u003C\u002Fh3>\u003Cul>\u003Cli>☐ 规划是否有最大步数、停止条件、失败降级路径。\u003C\u002Fli>\u003Cli>☐ 规划输出是否包含前置条件、证据链接、预期影响。\u003C\u002Fli>\u003Cli>☐ 记忆条目是否标注来源、写入时间、有效期、可见范围。\u003C\u002Fli>\u003Cli>☐ 检索记忆时是否做用户、租户、项目、敏感字段隔离。\u003C\u002Fli>\u003Cli>☐ 工具调用是否做 schema 校验，缺字段时是否有可解释错误。\u003C\u002Fli>\u003Cli>☐ 写操作是否区分模拟、确认、受限执行三档。\u003C\u002Fli>\u003Cli>☐ 外部消息、资金、删除、权限变更是否默认人工确认。\u003C\u002Fli>\u003Cli>☐ 最终回答是否能引用工具 ID、检索 ID、结果摘要或失败原因。\u003C\u002Fli>\u003Cli>☐ 日志是否记录发现、调用、返回、错误、审批、回滚。\u003C\u002Fli>\u003Cli>☐ 是否准备缺字段、超时、权限拒绝、记忆过期等失败测试。\u003C\u002Fli>\u003C\u002Ful>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">今天可以执行的只读评估步骤\u003C\u002Fh3>\u003Col>\u003Cli>准备 5 个样例：正常查询、字段缺失、工具超时、权限不足、记忆过期。\u003C\u002Fli>\u003Cli>关闭所有写操作，只允许读取和模拟。\u003C\u002Fli>\u003Cli>让 Agent 输出计划、前置条件、停止条件、证据链接。\u003C\u002Fli>\u003Cli>人工核对步骤是否可审计，证据是否能追溯。\u003C\u002Fli>\u003Cli>把每项能力标记为只读验证、人工确认、受限执行或必须禁用。\u003C\u002Fli>\u003C\u002Fol>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">Agent 的可用程度不是宣传词，而是一张可检查清单。你可以先收藏，再转给正在接入工具、记忆或规划模块的同事。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">从一次只读评估开始，避免把未经审计的自动执行直接推上生产。\u003C\u002Fp>\u003C\u002Fsection>\n\u003Csection class=\"portal-disclaimer\" data-portal-disclaimer=\"1\" style=\"margin-top:2.5em;padding-top:1.25em;border-top:1px solid #e8e4dc;font-size:14px;line-height:1.7;color:#7a756c;\">\u003Cp style=\"margin:0;\">免责声明：本文内容整理自公开网络资料，仅供学习交流参考，不代表观山书院立场。如涉及版权侵权，请联系我们删除。\u003C\u002Fp>\u003Cp style=\"margin:0.75em 0 0;\">联系邮箱：\u003Ca href=\"mailto:chenxj.g@gmail.com\">chenxj.g@gmail.com\u003C\u002Fa>\u003C\u002Fp>\u003C\u002Fsection>",1311,"2026-09-29T10:58:21+08:00","2026-09-29T11:19:41.686381+08:00","2026-09-29T21:35:01.746078+08:00",{"id":155,"locale":13,"slug":156,"type":15,"title":157,"summary":158,"content_html":159,"video_url":19,"cover_url":20,"author":21,"category":22,"status":23,"source_job_id":160,"published_at":161,"created_at":162,"updated_at":163},40,"开源与商业-agent-框架-2026q1-只读试点选型","开源与商业 Agent 框架：2026Q1 只读试点选型","读完可按场景生成2026Q1框架候选对照表，并用两周只读试点验证成本、集成、权限与治理风险。","\u003Csection data-gzh-readable=\"1\" style=\"margin:0;padding:0;\">\u003Cdiv data-gzh-header=\"1\">\u003Cp style=\"font-size:15px;color:#888;text-align:center;margin-top:8px;\">读完可按场景生成2026Q1框架候选对照表，并用两周只读试点验证成本、集成、权限与治理风险。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Cp style=\"font-size:14px;color:#999;text-align:center;margin-top:4px;\">作者：进学斋 · 观山书院\u003C\u002Fp>\u003Cp style=\"font-size:13px;color:#999;text-align:center;margin:0 0 6px 0;\">全文约2916字 · 阅读约需10分钟\u003C\u002Fp>\u003Chr style=\"border:none;border-top:1px solid #eee;margin:24px 0;\" \u002F>\u003C\u002Fdiv>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">读完这篇，你可以完成三件事：把 Agent 需求拆到正确层级；生成开源、商业或混合框架候选对照表；用两周只读试点验证集成成本、权限边界、失败恢复和治理风险。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">选型目标不是找到最热的框架，而是找到能安全进入灰度的最小可行方案。下面按工程落地路径展开。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">动态：从演示走向生产\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">据公开资料与行业观察，2026 Q1 Agent 框架的竞争焦点，已从能不能跑通，转向可观测、可审计、可回滚和可控成本。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">Demo 能调用工具、能生成报告，不等于生产可用。差距常在失败之后：工具超时怎么处理，权限越界怎么停止，上下文污染怎么隔离。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">开源项目常见更新，是多模型路由、工具协议、记忆持久化与插件许可。商业平台更偏托管运行、身份权限和团队协作。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">开源更容易定制，商业更容易拿到开箱治理。两者都不适合凭印象选型。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">先看任务类型：辅助阅读、自动执行，还是跨系统协作。辅助阅读可接受人工复核；自动执行必须限制动作范围；跨系统协作要把审批、状态追踪和异常回滚放进主链路。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">数据边界不同，选型重点也不同。\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkROvx7APOS3DFCx751Q8Segulzyque6c0nYI6C9mMORpQm6f4fPbib5Sf9ROj4Xx9xrjA7b2fLq1emkibTul1Le8ejyJLHasCPjlE\u002F0?from=appmsg\" alt=\"配图·松林晨光\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·松林晨光\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">机制：五层能力决定边界\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">编排层：谁来决定下一步\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">编排层决定 Agent 是单步问答、固定工作流，还是多 Agent 协作。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">任务越接近自动执行，越要限制循环次数、越权调用和无人干预链路。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">实用原则：能流程化的，不要交给模型自由发挥。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">工具层：权限设计比模型参数更关键\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">工具层覆盖结构化函数调用、文件、网络、数据库动作，以及沙箱和人工确认点。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">生产可用性的瓶颈常常不是回答质量，而是一个未授权的删除、发送或导出接口。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">检查工具时，先看是否要求确认、是否记录入参出参、是否能被临时禁用。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">记忆层：区分可写、可回查和临时草稿\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">记忆层包括短期上下文、长期偏好和检索增强。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">不要把所有会话都写进长期记忆。可写记忆需要人工审核或自动过期；可回查记忆需要能追踪来源；临时草稿应隔离在单次任务里。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这样可降低跨会话污染，避免旧结论误伤新任务。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">治理层：日志、审批、密钥、脱敏和回滚\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">治理层包括日志、审批、密钥、脱敏和版本回滚。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">商业与开源的差距常出现在这里，而不是 Demo 里的回答速度。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">至少要做到：能导出调用链，能追踪失败由哪个工具触发，能撤销错误记忆，能控制密钥和访问范围。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">没有这些能力，排查容易把工程问题变成责任问题。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">成本层：按任务成本比较，不按模型价格比较\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">成本层不只计算模型 token，还要算工具调用次数、重试消耗、人工审核、存储检索和集成维护。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">用同一组任务样本比较不同框架：一个便宜模型多次重试，另一个接入稍贵却少人工修正，总成本可能更低。\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkRNREVL9cicwDiafBibh0G2mG5CV1Vgyt8DbEJA6VQoPNicXqbtSTFZyhFYoWq0zX26Ngib4t6vKV3BjCavtdFduzh84UGmETFZKlN2s\u002F0?from=appmsg\" alt=\"配图·漓江竹林\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·漓江竹林\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">对照表：按场景筛开源与商业\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">下面这张表不是排名，而是筛选口径。先把候选框架归入类型，再按自己的数据边界、工具扩展和治理要求淘汰。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Ctbody>\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">框架类型\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">适用场景\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">数据边界\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">工具扩展\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">治理日志\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">接入成本\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">私有化能力\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">维护方式\u003C\u002Fth>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">开源插件型\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">代码助手、内部工具集成、研发自动化\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">可保留在本地或内网，需自管数据脱敏\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">高，依赖社区插件、自研连接器与接口规范\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">需自行补齐观测、审批、告警\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">启动低，长期运维高\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">强\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">团队自担\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">商业托管型\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">知识问答、内部客服、轻量流程助手\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">依赖服务商或专属环境，需明确数据驻留\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">中，接口稳定但扩展受平台约束\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">较完整，通常有账号、审计与团队协作\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">合同与席位成本\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">视版本而定\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">服务商共担\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">混合部署型\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">跨系统流程、敏感数据检索、需要审批的协作\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">数据可不出域，模型或运行层可外包\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">中高，可用连接器加人工确认点\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">较完整，需验证回滚和权限边界\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">集成复杂度高\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">可私有化部署\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">团队与服务共担\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">自研轻量型\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">单点工具、固定流程、强约束任务\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">完全自控\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">低到中高，取决于自研投入\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">可控，但容易漏掉异常链路\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">初期开发高\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">强\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">团队自担\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftbody>\u003C\u002Ftable>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">场景判断\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">知识问答和内部客服，优先选择检索、会话记忆、人工接管和审计日志成熟的托管或私有部署方案。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">用户问题常涉及内部文档、权限范围和历史偏好，单纯生成回答不够。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">代码和研发助手，优先检查可插拔工具、沙箱、版本控制和失败回滚。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">开源插件生态更灵活，但团队要自担依赖更新、权限收敛和构建环境一致性。能读代码不等于能改代码；改代码必须先有沙箱与确认点。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">跨系统流程，优先选择工作流、权限审批和状态追踪能力强的平台。关键业务不要交给纯聊天式 Agent。审批、状态机、重试和异常通知，比多 Agent 对话更重要。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">实操：两周只读试点路线\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">试点目标不是证明框架好用，而是发现它不适合什么。建议先只读：不写入生产数据，不触发外部动作，不自动发送消息。以下路线可按两周推进。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第 1 天：锁定 3 类任务\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">选择信息检索、流程判断、生成建议三类任务。每类写清楚输入、输出、禁止动作和人工确认点。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">信息检索只读取脱敏文档，不引用未授权来源；流程判断只给出下一步建议，不自动提交；生成建议只产生草稿，不自动发布。\u003C\u002Fp>\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">任务卡模板：\u003Cbr>任务名称：\u003Cbr>输入材料：\u003Cbr>期望输出：\u003Cbr>禁止动作：\u003Cbr>人工确认点：\u003Cbr>失败处理：\u003Cbr>记录字段：调用链、延迟、工具名、错误码、是否需人工修正\u003C\u002Fpre>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第 2-3 天：搭沙箱\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">开源框架可用本地容器或隔离账号，商业平台用最小权限只读接口。统一记录调用链和错误码。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">沙箱里至少放三套样本：正常样本、边界样本、异常样本。边界样本用来验证拒答、澄清和权限限制。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第 4-7 天：跑脱敏样本\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">每天记录失败率、澄清次数、延迟、人工修正率和工具权限触发情况。不写绝对结论，先看趋势。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">同一任务连续失败时，要区分是模型理解问题、检索缺材料、工具权限过窄，还是流程设计过松。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以把失败分成五类：输入不足、上下文污染、工具调用错误、权限被拒、输出不符合规范。每一类都要指向一个动作：补文档、拆记忆、限工具、加审批、改提示。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第 8-14 天：做故障与成本复盘\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">模拟工具超时、权限越界、上下文污染，观察系统是否能停止、回滚、通知和留痕。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">成本复盘不只看 token，也看人工修正耗时。一个框架如果能把反复纠错降到一次确认，即使接口价格更高，也可能更划算。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">复盘后给出三档结论：进入灰度、继续观察、停止试点。结论必须对应证据。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">坑与行动：今天可做的三件事\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">坑 1：只看输出质量，不看日志、审批和失败恢复\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">回答漂亮，不代表进入生产不会失控。要看日志能否复盘一次错误调用，审批能否阻止敏感动作，失败恢复能否避免重复执行。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">缺少这些，生产化时容易出现权限失控和成本不可预测。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">坑 2：把多 Agent 当万能方案\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">多 Agent 适合角色清晰、任务可拆、失败可隔离的场景。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">先做单点工具化，再决定是否拆分角色。否则协作链路会放大故障面，一个 Agent 的误导会让后续 Agent 沿着错误前提继续工作。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">可以先让一个 Agent 带工具完成任务，再引入编排。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">今天可做的三件事\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">下面三件事，比比较框架热度更重要。你可以直接复制进任务系统。\u003C\u002Fp>\u003Cul>\u003Cli>☐ 建候选对照表：按开源插件型、商业托管型、混合部署型、自研轻量型列三到四个候选，不凭名气直接排除。\u003C\u002Fli>\u003Cli>☐ 申请只读测试环境：固定脱敏样本、最小权限、独立账号和日志导出路径。\u003C\u002Fli>\u003Cli>☐ 定义禁止动作与人工接管点：写入、发送、删除、跨库查询、外部调用都必须有确认边界。\u003C\u002Fli>\u003C\u002Ful>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">收束：先用最小试点换确定性\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">今天先列出三个候选框架与一个真实流程，建立最小权限沙箱。一周后，用日志、成本、工具失败恢复和人工干预记录，决定是否进入灰度、继续观察还是停止试点。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">选型的终点不是“这个框架更强”，而是“它能不能在我的边界里少犯错、可追溯、可停止”。\u003C\u002Fp>\u003C\u002Fsection>",1112,"2026-09-28T09:37:11+08:00","2026-09-28T20:34:45.803218+08:00","2026-09-29T21:35:01.772553+08:00",{"id":165,"locale":13,"slug":166,"type":15,"title":167,"summary":168,"content_html":169,"video_url":19,"cover_url":20,"author":21,"category":22,"status":23,"source_job_id":170,"published_at":171,"created_at":172,"updated_at":173},41,"长任务-agent-上线前-规划记忆工具验收表","长任务 Agent 上线前：规划记忆工具验收表","读完可拿到规划、记忆、工具三类边界验收表，用只读试点判断哪些步骤能自动执行，避免越权与记忆污染。","\u003Csection data-gzh-readable=\"1\" style=\"margin:0;padding:0;\">\u003Cdiv data-gzh-header=\"1\">\u003Cp style=\"font-size:15px;color:#888;text-align:center;margin-top:8px;\">读完可拿到规划、记忆、工具三类边界验收表，用只读试点判断哪些步骤能自动执行，避免越权与记忆污染。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Cp style=\"font-size:14px;color:#999;text-align:center;margin-top:4px;\">作者：进学斋 · 观山书院\u003C\u002Fp>\u003Cp style=\"font-size:13px;color:#999;text-align:center;margin:0 0 6px 0;\">全文约3204字 · 阅读约需11分钟\u003C\u002Fp>\u003Chr style=\"border:none;border-top:1px solid #eee;margin:24px 0;\" \u002F>\u003C\u002Fdiv>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以把这篇文章当成一张评审会用的验收表。读完会拿到规划、记忆、工具三类边界，并用只读试点判断哪些步骤可自动执行。文章不泛泛讲 Agent 能力，只讲一次长任务里哪些能放权、哪些必须拦住、哪些需要留证据。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">长任务 Agent 的难点不在单句回答是否漂亮，而在多步骤连续推进时，目标会不会漂移，临时结论会不会变成持久事实，工具会不会越过只读边界。边界不是限制，而是自动执行开关。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">一、先给概念：边界不是限制，而是自动执行开关\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">把一次任务拆成三段\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你要看的不是模型会不会答，而是一次任务从开始到结束如何推进。开始前是目标拆解，运行中是状态推进，结束前是证据保留。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">据公开技术文档\u002F行业实践，长任务控制常用关键词包括任务状态机、沙箱执行、人工在环、工具白名单、记忆隔离和失败回滚。它们共同服务一个目标：让 Agent 能继续跑，但不会把业务状态带偏。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以在评审会上先问三个问题。子任务是否可验证？中间状态是否可回查？工具副作用是否可撤销？三个问题有答案，才谈自动化。\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkRPbiadlRhqGXC1QUnQpQ3Mcia0tibXoyQycyIFCvP1tKL3a4h8yhnT8ub1VebSURoyn5tgM6vibVWdiaL6ziaMicIVGicRFF3XCria2Q76E\u002F0?from=appmsg\" alt=\"配图·江水竹影\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·江水竹影\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">二、拆机制：规划、记忆、工具各自要管住什么\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">规划边界：管方向，也管重规划\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">规划不是让模型列一个漂亮计划就结束。它要持续回答三件事：子任务是否合理，目标是否漂移，什么情况下必须重新规划。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果模型在运行中把整理资料改成修改系统配置，这就是目标漂移。你需要让规划层能识别新目标，并触发人工确认，而不是一路自行改写任务方向。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">可自动的规划通常有边界：输入已确认，输出可检查，步骤可回滚，失败后可重试或降级。越界的规划往往扩大范围、跨任务迁移、改变权限。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">记忆边界：区分短期上下文、长期知识和临时假设\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">记忆污染常来自把一次试错结论沉淀成长期知识。Agent 在某个任务里假设「A 方案可行」，下一次没验证就继续引用，旧判断会影响新任务。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你需要把记忆分成三类。短期上下文只服务当前任务，可随任务结束归档。长期知识要经过确认，有来源和版本。临时假设必须标记未验证，不能直接变成事实。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">据公开资料\u002F行业观察，较稳妥的记忆写入通常带四个字段：来源、任务 ID、有效期、确认状态。缺少这些字段，记忆就会从辅助变成风险。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">工具边界：先只读，再处理写操作\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">工具边界的核心是最小权限。先开放查询、读取、预览、生成草稿等只读动作，再逐步允许导出、写入草稿、提交审批等半可逆动作。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">删除、发布、转账、生产库变更、权限修改这类强副作用动作，不应因为工具能调用就自动执行。你需要用工具白名单、参数模板、幂等处理和失败重试来兜住。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">提示词可以约束意图，但工程上更可靠的是参数校验。例如搜索接口只能接收已授权字段，导出接口只能写入沙箱目录，调用前必须检查目标环境和账户。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">三能力联动：断一环，长任务就断链\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">规划、记忆、工具不是三套独立开关。计划改变会影响记忆写入，记忆内容会约束工具选择，工具结果又必须能触发重新规划。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果工具查询失败，Agent 只会不断重试，而不更新计划，任务就会卡死。如果记忆写入没有来源，后续规划会基于错误前提继续展开。工程验收要把联动路径画出来。\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fsz_mmbiz_jpg\u002F4WyfSFibfkRNpQfEWeIy8PVyTlic3NDv0I2ozjnyDia6WwmP66L4xWDq2wFKbPGCZJddg8tz1l7kXQc7scgDLa3Kt1n3mESS3BINFKd1OAaak8\u002F0?from=appmsg\" alt=\"配图·秋色温黄\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·秋色温黄\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三、可照做步骤：一周只读试点与验收表\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第 1 天：选 3 类真实任务\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">先选信息查询、跨文档整理、可逆操作三类任务。不要一上来接生产权限。信息查询看准确性，跨文档整理看上下文和记忆，可逆操作看状态回滚。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以用低风险但高频的任务做样板。比如产品问题资料汇总、会议纪要结构化、草稿生成。它们能暴露规划、记忆和工具问题，又不至于直接改生产状态。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第 2 天：建只读沙箱和日志链\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">准备一个隔离环境，只允许读取文件、查询接口、生成临时产物。每次运行记录任务状态、工具输入输出、记忆写入点和失败原因。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">日志链至少回答四个问题：谁发起了任务，调用了什么工具，写入了什么记忆，在哪个节点需要人工确认。只有聊天记录不够，状态版本和产物路径也要保留。可记录 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">task_id\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">tool_input\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">memory_write\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">rollback_point\u003C\u002Fcode>。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第 3 天：填写三栏验收表\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">下面这张表可以直接放到评审材料里。你只需按业务改工具名称和权限等级，就能判断哪些步骤可自动执行。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">维度\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">可自动执行\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">需人工确认\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">禁止执行\u003C\u002Fth>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">规划\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">生成子任务、检查目标一致、预算阈值内重试、失败后降级\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">扩大任务范围、改变目标、跨任务迁移、调整执行顺序\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">无目标泛化、自行添加删除或发布、不可解释的规划\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">记忆\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">写入临时笔记、带来源、绑定任务 ID、设置过期时间\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">沉淀到长期知识库、更新共享假设、跨任务复用结论\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">无来源结论、覆盖用户事实、把试错当成长期知识\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">工具\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">只读查询、读取沙箱、生成预览、读取公开资料\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">导出草稿、提交审批、写入测试目录、调用半可逆写接口\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">删除数据、发布内容、转账支付、修改生产库或权限\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftable>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">第 5 天：用决策树判断放权\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">放权不要按模型聪明程度决定，要按错误后果决定。任务可逆且错误可回滚，可走自动。任务半可逆，要走审批。任务不可逆，必须人工确认。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">决策树可以这样写。第一问是否影响生产数据。第二问是否有撤销路径。第三问是否有可回查证据。三问都通过，才考虑自动执行。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">试点检查清单\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 已选 3 类低风险任务。\u003Cbr>☐ 已接只读沙箱。\u003Cbr>☐ 已记录工具输入输出。\u003Cbr>☐ 已标记记忆写入点。\u003Cbr>☐ 已形成三栏验收表。\u003Cbr>☐ 已区分自动、审批、禁止。\u003Cbr>☐ 已准备失败回滚路径。\u003Cbr>☐ 已准备人工确认入口。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">四、常见坑与选型路径\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">坑一：伪完成\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">最常见的坑是模型声称任务结束，但没有可回查证据。它可能说已整理完成，却拿不出产物路径、输入清单和失败记录。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">验收时不要把看起来完成当终点。你要把产物、日志和回滚点作为门槛。没有证据链的任务，只能算未完成。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">坑二：记忆污染\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">记忆污染比单次答错更难发现，因为它会影响后续多次任务。某个临时假设如果进入长期知识，后续 Agent 会把它当成事实。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">给记忆写入加来源、有效期和确认状态是基本做法。你可以把未验证结论放在短期区，只有经过人工确认才进入长期区。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">坑三：工具越权\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">工具越权往往不是 Agent 故意作恶，而是接口设计太粗。一个名为处理订单的工具，里面同时包含查询、修改、取消、支付，风险会突然放大。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你需要把工具拆成最小动作。查询归查询，导出归导出，写入归写入。强副作用动作单独审批，并且限制目标环境、账户和参数。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">选型路径：先单任务，再编排，再协作\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">据公开资料\u002F行业观察，公开技术博客和产品文档里常见的路径是先做单任务工具接入，再考虑多步骤编排。先验证记忆可隔离，再评估多智能体协作。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果单任务里的只读工具还不能稳定运行，多智能体只会增加沟通成本。如果长期记忆还不能确认来源，协作智能体更容易传播错误假设。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">五、延伸：从试点到生产的观测点\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">不要只看任务成功率\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">任务成功只是表象。你还要看人工接管率、错误回滚耗时、越权尝试次数和记忆误用率。这些指标才能说明边界是否有效。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果一个 Agent 频繁请求人工确认，说明规划或工具边界还没收敛。如果它能自动完成但经常删除测试文件，说明副作用控制失效。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">审计要留可复盘结构\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">聊天记录适合看对话，不适合看责任。生产化审计应保存状态版本、工具调用链、审批记录和可回滚快照。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以把每次运行看成一个可恢复的工作流。任务 ID、步骤 ID、工具调用 ID、记忆写入 ID 要能串起来。复盘时才不会靠猜测定位问题。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">生产化先从灰度开始\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">不要把试点直接换成生产写操作。先选低风险任务小流量灰度，再逐步扩展可逆写能力。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">每一步都要有退出条件和责任边界。退出条件可以很简单：连续出现目标漂移，或越权尝试被拦截，就回到只读。责任边界也要写明：谁确认目标，谁审批写操作，谁处理事故。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">收束：三条马上可做的行动\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">先做只读试点，不急着接写操作。用沙箱和日志链把任务过程看清楚。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">先建规划、记忆、工具三栏边界验收表。把可自动、需确认、禁止执行写清楚。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">先保留可回滚证据和人工确认点。产物、日志、状态版本和审批记录，比模型的一次流畅回答更重要。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以收藏这篇文章，用于 Agent 上线评审会，也可以转发给正在搭 Agent 的同事，先拿三栏表做一次试点。\u003C\u002Fp>\u003C\u002Fsection>",1109,"2026-09-28T09:14:00+08:00","2026-09-28T20:34:45.910204+08:00","2026-09-29T21:35:01.766281+08:00",{"id":175,"locale":13,"slug":176,"type":15,"title":177,"summary":178,"content_html":179,"video_url":19,"cover_url":20,"author":21,"category":22,"status":23,"source_job_id":180,"published_at":181,"created_at":182,"updated_at":183},42,"mcp怎么接-协议对比与只读试点路线","MCP怎么接：协议对比与只读试点路线","读完可拿到MCP与Function Calling对比表、只读试点三步与选型结论，判断先接入哪类工具与权限。","\u003Csection data-gzh-readable=\"1\" style=\"margin:0;padding:0;\">\u003Cdiv data-gzh-header=\"1\">\u003Cp style=\"font-size:15px;color:#888;text-align:center;margin-top:8px;\">读完可拿到MCP与Function Calling对比表、只读试点三步与选型结论，判断先接入哪类工具与权限。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Cp style=\"font-size:14px;color:#999;text-align:center;margin-top:4px;\">作者：进学斋 · 观山书院\u003C\u002Fp>\u003Cp style=\"font-size:13px;color:#999;text-align:center;margin:0 0 6px 0;\">全文约3395字 · 阅读约需12分钟\u003C\u002Fp>\u003Chr style=\"border:none;border-top:1px solid #eee;margin:24px 0;\" \u002F>\u003C\u002Fdiv>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果你正在评估 \u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">MCP\u003C\u002Fstrong>，可以先别急着接大模型，也别急着写通用工具层。据公开资料\u002F行业观察，真正落地时，最先需要处理的是工具发现、权限边界、失败日志和只读试点，而不是让 Agent 立刻拥有写权限。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这篇文聚焦“现在能做什么”。读完你可以拿到 \u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">MCP 与 Function Calling 对比表\u003C\u002Fstrong>、只读试点清单、工具选型路径，以及三个今天就能执行的接入动作。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">协议背景：先判断你是否需要 MCP\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">据公开资料\u002F行业观察，MCP 关注的不只是“让模型调用一个函数”，而是给不同客户端、工具服务和本地上下文建立统一连接方式。它试图让工具发现、资源读取、审批确认和日志记录，在不同应用中保持相似边界。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">近期落地案例摘要常集中在三类场景：读取文件或知识库、访问受控网页、调用已有 API。它们的共同点是优先解决“看什么、能不能看、看过什么”，而不是直接进入高影响操作。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">阅读公开文档时，你可以先抓四个关键词：\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">server\u003C\u002Fstrong>、\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">client\u003C\u002Fstrong>、\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">tools\u002Fresources\u003C\u002Fstrong>、\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">approval\u002Flog\u003C\u002Fstrong>。如果这四个点说不清，接入大概率会变成“把一堆接口地址塞进模型”。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">背景判断标准：如果现有工具链已经在单应用内稳定可用，不必为了“新协议”强行接入；如果有多客户端复用、统一资源访问和审计需求，MCP 才更有价值。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">公开规范关键词\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">你可以问什么\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">试点阻塞项\u003C\u002Fth>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">server\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">能力是否只暴露最小集合\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">是\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">client\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">哪些来源允许发起调用\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">是\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">tools\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">是否包含写数据库、发消息、下单\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">第一轮应排除\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">resources\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">文件、知识库、网页是否在白名单内\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">是\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">approval\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">高风险动作是否需要人工确认\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">必须设计\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">log\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">谁调用了什么、失败原因能否追踪\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">必须设计\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftable>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkROFuU22uG1JfrYMU7cyhndxM7l27y4SN6TC5fuN3WFKDgsyFyPiaGgyiaZf0062a4170ibp4BibJeaDsicJHFf0Yfic0N3q9TuoUibkbE\u002F0?from=appmsg\" alt=\"配图·林间静趣\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·林间静趣\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">MCP 与 Function Calling 的边界\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">很多团队把两者混成一个东西。简单说：\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">Function Calling\u003C\u002Fstrong> 更像应用内机制，模型从已注册函数中选择调用；\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">MCP\u003C\u002Fstrong> 更像协议层机制，让客户端发现并调用外部工具或资源。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">调用主体不同，决定接入前要先问：这个工具是只给当前 App 用，还是希望被多个客户端复用？上下文范围也不同，函数调用通常依赖应用自身传入参数；公开资料中，MCP 更强调资源读取、提示交互和跨客户端复用能力。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">权限模型是最大差别之一。函数调用常绑定单个应用，权限容易藏在应用配置里；MCP 接入后容易出现“多 server、多资源、多权限”边界问题。授权、日志和错误返回需要单独设计，不能靠模型自觉。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">对比项\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">Function Calling\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">MCP\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">开发判断\u003C\u002Fth>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">调用主体\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">应用内模型选择函数\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">客户端发现并调用外部工具\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">单应用自动化更选前者\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">工具发现\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">通常预先注册\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">可由 server 暴露能力\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">多端复用考虑后者\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">权限边界\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">跟随应用配置\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">需按 server、资源、操作分级\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">审计需求高时后者更强\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">状态管理\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">由应用维护会话和结果\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">工具\u002F资源状态可能成为协议能力\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">需要统一观察时更谨慎\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">适合场景\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">固定流程、已有工具链\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">多客户端接入、统一资源访问\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">先试点，再放量\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftable>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkRPicRACHIoTP0IEJC29XraJGBdqCR1lkrFEtyaStvvR8bf9DrIYeW57zr6TJdlKIoeJ8PlsYLNzhhmP0SV9MMfQ3miaobegTI10c\u002F0?from=appmsg\" alt=\"配图·远山层叠\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·远山层叠\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">只读试点路线：今天可照做\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果你明天就要启动，建议不要搭完整 Agent 平台。先做只读试点。目标是验证工具发现是否稳定、参数是否容易误填、失败是否可见、返回内容是否可控。\u003C\u002Fp>\u003Cblockquote style=\"margin:1.2em 0;padding:0.8em 1em;border-left:3px solid #4a90d9;background:#f0f6fc;color:#444;font-size:15px;line-height:1.85;\">据公开资料\u002F行业实践，只读试点优先于写能力开放。第一轮可以问“能不能准确读取”，不要问“能不能自动执行”。\u003C\u002Fblockquote>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">第一步：选低风险工具。\u003C\u002Fstrong>优先做只读文件、内部知识库或公开网页摘要，不先碰写数据库、发消息、交易下单、删除数据等高影响操作。范围越窄，失败越容易归因。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">第二步：建最小权限表。\u003C\u002Fstrong>列出工具名、输入字段、输出字段、敏感级别、失败样例，写入项目文档，避免团队口头约定。字段表不是文档装饰，它决定模型能选什么、不能碰什么。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">第三步：跑一组真实任务。\u003C\u002Fstrong>建议先选 10 个任务，覆盖缺参数、超时、同名工具冲突、返回内容污染四类问题。只跑成功样例，很容易误判生产可用性。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">第四步：输出选型结论。\u003C\u002Fstrong>如果只需单应用编排，函数调用或现有工具链可能更稳；如果要多客户端复用和统一审计，再推进 MCP。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">☐ 试点步骤\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">现在做什么\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">必须产出\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">通过标准\u003C\u002Fth>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">☐ 选工具\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">只读知识库、文件、公开网页\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">工具白名单\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">不含写操作\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">☐ 定字段\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">输入、输出、敏感级别、失败返回\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">权限字段表\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">每个字段有边界\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">☐ 跑任务\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">10 个真实任务，含异常样例\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">失败问题清单\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">能定位原因\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">☐ 做结论\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">继续、暂停或换函数调用\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">选型说明\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">有可观察证据\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftable>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">命名规则可以先用“动作_对象_权限”三段式。例如：\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">kb_search_readonly\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">file_read_text\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">web_fetch_summary\u003C\u002Fcode>。不要只用 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">read\u003C\u002Fcode> 或 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">search\u003C\u002Fcode>，多 server 同名会让模型误选。\u003C\u002Fp>\u003Cpre style=\"background:#f5f7fa;padding:15px;border-radius:6px;font-size:14px;line-height:1.6;overflow-x:auto;margin:1em 0;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">tool: kb_search_readonly; scope: internal_knowledge_base; input: query\u002Ftop_k\u002Fmax_length; output: title\u002Furl\u002Fsnippet\u002Fscore; failure: timeout\u002Fno_permission\u002Fempty_result\u003C\u002Fcode>\u003C\u002Fpre>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这类字段表要短，但必须能挡住误用。你可以把它作为工具上线前的固定评审材料，让模型、后端、安全和业务都看到同一张表。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">最小权限字段表：先挡住越权\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">只接工具不够，还要把资源范围、审批和返回污染挡住。字段表建议从工具维度，而不是从模型对话维度写。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">字段\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">示例\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">风险\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">试点要求\u003C\u002Fth>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">tool_name\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">file_read_text\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">低\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">全局唯一\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">input_path\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">docs\u002Fteam\u002Fonboarding\u002F\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">中\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">目录白名单\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">max_output\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">limited length\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">低\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">防返回污染\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">approval_level\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">none\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">低\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">只读不自动审批写\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">log_id\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">trace-id\u003C\u002Fcode>\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">中\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">可追踪但可脱敏\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftable>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">留意 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">log_id\u003C\u002Fcode> 等字段，能追踪但不能把内部敏感地址原样返回给模型。只读试点阶段，安全不是加分项，而是暂停或继续的判断依据。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">工具生态坑与选型路径\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">坑一：把 MCP 当 API 转发器。只塞密钥和接口地址，不设计资源范围、审批和日志，容易扩大攻击面。公开资料和行业实践都提醒：工具入口越统一，越需要边界。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">坑二：多 server 同名工具导致模型误选。接入前需要建立全局命名规则、冲突检测和优先级说明。你可以把工具前缀绑定业务域，例如 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">finance_read_statement\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">hr_read_policy\u003C\u002Fcode>、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">support_read_ticket\u003C\u002Fcode>。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">坑三：只看 demo 链路，不看失败链路。生产可用取决于错误码、限流、幂等、权限拒绝和可观测日志。没有失败样本，只读试点也无法判断能否放量。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">常见坑\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">表面现象\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">先做哪件事\u003C\u002Fth>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">API 转发器\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">工具多了，但不知道谁能用\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">写资源白名单和权限表\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">同名工具冲突\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">模型选了错误 server\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">加业务前缀和优先级\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">失败链路缺失\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">超时后模型重复调用\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">定义错误码、退避和日志\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">返回内容污染\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">长文本塞满上下文\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">限制输出长度和字段\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftable>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">决策路径：什么时候才真的用 MCP\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">先问三个问题：是否需要跨客户端复用？是否需要访问本地或内部资源？是否需要统一权限审计？三个答案都为“是”，再引入 MCP；否则先用函数调用、脚本或已有插件。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">如果你只是给一个内部聊天应用加“查文档”按钮，函数调用或现有检索服务可能更稳。如果你想让 IDE、客服系统、桌面助手和内部平台共用同一套文件、知识库和网页工具入口，并且需要审计谁访问了什么，MCP 才更值得试点。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">工具选型可以从低到高分三档：\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">只读资料层\u003C\u002Fstrong>，例如文件、知识库、公开网页摘要；\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">查询工具层\u003C\u002Fstrong>，例如只读 API、工单查询、报表查询；\u003Cstrong style=\"font-weight:bold;color:#1a1a1a;\">动作执行层\u003C\u002Fstrong>，例如写文件、发消息、下单、改配置。第一档只读试点，第二档审批后试点，第三档不要一开始自动。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三项今日行动\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">今日行动一：挑一个只读工具，限制到目录、域名或知识库白名单。优先选内部知识库检索，而不是开放文件目录。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">今日行动二：画一张权限字段表，明确输入、输出、敏感级别和失败返回。字段表不需要复杂，但必须让开发能照着实现。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">今日行动三：用一批真实任务跑一轮试点，记录超时、参数缺失、同名冲突和结果污染。每跑 10 个任务做一次复盘。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">一旦出现写操作越权、返回内容污染或不可观测失败，先暂停接入，再补审批和日志。MCP 的接入价值，不在“能连上”，而在“边界清楚、失败可追踪、权限可控”。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以现在打开项目文档，新建一页 \u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">mcp-pilot.md\u003C\u002Fcode>，把只读工具、白名单、字段表、失败样例放进去。这张页比完整架构方案更适合今天推进。\u003C\u002Fp>\u003C\u002Fsection>",1108,"2026-09-28T09:09:55+08:00","2026-09-28T20:34:45.914873+08:00","2026-09-29T21:35:01.75165+08:00",{"id":185,"locale":13,"slug":186,"type":15,"title":187,"summary":188,"content_html":189,"video_url":19,"cover_url":20,"author":21,"category":22,"status":23,"source_job_id":190,"published_at":191,"created_at":192,"updated_at":193},44,"agent试点别只看输出-规划记忆工具三栏边界清单","Agent试点别只看输出：规划记忆工具三栏边界清单","用三栏边界表和☐只读试点清单，判断Agent的规划、记忆、工具调用哪些能自动、哪些需审批、哪些不可用。","\u003Csection data-gzh-readable=\"1\" style=\"margin:0;padding:0;\">\u003Cdiv data-gzh-header=\"1\">\u003Cp style=\"font-size:15px;color:#888;text-align:center;margin-top:8px;\">用三栏边界表和☐只读试点清单，判断Agent的规划、记忆、工具调用哪些能自动、哪些需审批、哪些不可用。\u003C\u002Fp>\n\u003Cfigure class=\"portal-article-figure\">\u003Cimg src=\"https:\u002F\u002Fguanshanshuyuan.cn\u002Fimages\u002Farticles\u002Flandscape_mountain.jpg\" alt=\"观山静思\" loading=\"lazy\" decoding=\"async\" \u002F>\u003Cfigcaption>观山静思\u003C\u002Ffigcaption>\u003C\u002Ffigure>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\u003Cp style=\"font-size:14px;color:#999;text-align:center;margin-top:4px;\">作者：进学斋 · 观山书院\u003C\u002Fp>\u003Cp style=\"font-size:13px;color:#999;text-align:center;margin:0 0 6px 0;\">全文约2563字 · 阅读约需9分钟\u003C\u002Fp>\u003Chr style=\"border:none;border-top:1px solid #eee;margin:24px 0;\" \u002F>\u003C\u002Fdiv>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">背景：演示能力不等于放权能力\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">据公开资料\u002F行业观察，Agent 近期最受关注的不是“回答更像人”，而是能否在长任务中把目标拆成可控步骤，并在预算耗尽时停下。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">演示里的一句指令，可以完成查资料、写草稿、调接口。真实工作里，风险可能出现在第 7 步：多查了不相关文档，把旧结论带进新任务，或者触发了一个不该写入的接口。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这篇把规划、记忆、工具调用三件事翻译成可检查边界：一张三栏对照表、一套 ☐ 只读试点清单、三条落地动作。\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fsz_mmbiz_jpg\u002F4WyfSFibfkRPHib5l6X4lALib90TN9TZsAKvJlE4OSU2r20exJHic6sqepUKW4CpR4BX49jK6EYTcXBDkqZn55DiawYze6RlPO6uhmWswhUj0zyA\u002F0?from=appmsg\" alt=\"配图·庭园小径\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·庭园小径\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三条能力线：规划、记忆、工具\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">规划：从“会拆”到“会停”\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">据行业实践，规划能力的新变化是从一次性提示，走向分解、反思、重排。真正工程化时，它不能只看拆得细，而要看是否受步数、调用次数、失败分支限制。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">一个没有停止条件的 Agent，容易在长任务里越做越远：反复检索、反复总结、反复修改提示。你可以先给任务四道限制：最大步骤数、最大工具调用数、明确成功判据、失败几次即停。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">记忆：从“塞上下文”到分层隔离\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">据公开资料\u002F行业观察，记忆的新变化不只是上下文窗口变长，而是工作记忆、长期偏好、过程草稿开始分开管理。窗口容纳更多信息，不等于 Agent 能稳定使用正确信息。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">记忆最容易出的问题，不是“没记住”，而是“记住了不该用的”。临时草稿被当成用户偏好，上一轮会话串进新任务，敏感信息进入长期记忆，都会让 Agent 看起来聪明、实际不可控。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以先定三条规则：过程记忆默认过期，长期偏好需人工确认，失败会话只读归档。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">工具调用：从能调用到可审计\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">据公开资料\u002F行业观察，工具调用正从单点函数调用，走向标准接口、权限声明和调用日志。搜索、读文档、代码执行、知识库查询、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">MCP\u003C\u002Fcode> 类能力都能接，但真正决定能否上线的是边界。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">工具要分两类：只读和写入。读取资料、查询知识库，失败代价较小；发邮件、付款、删记录、改配置、发布生产，失败代价较大。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">你可以给每个工具加四个标签：权限等级、幂等键、日志入口、回滚方式。没有回滚方式的工具，先别交给自动 Agent。\u003C\u002Fp>\u003Cp style=\"text-align:center;margin:16px 0 6px 0;\">\u003Cimg src=\"http:\u002F\u002Fmmbiz.qpic.cn\u002Fmmbiz_jpg\u002F4WyfSFibfkROv8yBoI3S0vBfC5TSlMGQD6AYstG0pFSFXoCut2IFxWdCEw0LIFOicQ1LC9DmkITX3EOwWmoOLJdkDibpjYCVbP9Oicx7LYPFvUo\u002F0?from=appmsg\" alt=\"配图·春野柔光\" style=\"max-width:100%;border-radius:6px;display:block;margin:0 auto;\" \u002F>\u003C\u002Fp>\u003Cp style=\"text-align:center;font-size:12px;color:#bbb;margin:0 0 18px 0;\">配图·春野柔光\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">一张对照表：把能力边界变成检查项\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">这张表适合放在试点任务旁边。它不讨论模型强弱，只回答：边界在哪里，什么信号说明越界，越界后做什么控制。\u003C\u002Fp>\u003Ctable style=\"width:100%;border-collapse:collapse;font-size:13px;margin:16px 0;\">\u003Ctr>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">能力边界\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">可观测信号\u003C\u002Fth>\u003Cth style=\"border:1px solid #ddd;padding:8px 10px;background:#f5f8fc;color:#1a1a1a;font-weight:bold;text-align:left;\">控制动作\u003C\u002Fth>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">规划：是否停在目标上\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">步骤持续增加；输出偏离原始目标；反复重规划；产物没有成功判据\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">限制最大步骤数和调用数；超预算即暂停；要求每步给出输入来源或检查项\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">记忆：是否只使用应使用的信息\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">旧结论被误当新事实；草稿进入长期偏好；跨会话串入无关内容；敏感字段未脱敏\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">短期记忆设过期时间；长期偏好人工确认；失败会话只读归档；检索结果标注出处与更新时间\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">工具：是否在授权范围内行动\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">调用白名单外接口；只读任务触发写入；重复创建对象；失败后没有撤回路径\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">固定工具白名单；只读权限先行；高风险动作接审批门；写操作记录操作人和参数\u003C\u002Ftd>\u003C\u002Ftr>\u003Ctr>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">结果：是否能被复查\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">结论缺少来源；引用不完整；无法复现；错误定位不到步骤\u003C\u002Ftd>\u003Ctd style=\"border:1px solid #ddd;padding:8px 10px;vertical-align:top;\">保留执行轨迹；关键节点保存摘要；最终结果附带来源清单\u003C\u002Ftd>\u003C\u002Ftr>\u003C\u002Ftable>\u003Cblockquote style=\"margin:1.2em 0;padding:0.8em 1em;border-left:3px solid #4a90d9;background:#f0f6fc;color:#444;font-size:15px;line-height:1.85;\">\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">为什么重要：这些信号不是演示效果，而是判断 Agent 能否从试用推向放权的证据。\u003C\u002Fp>\u003C\u002Fblockquote>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">☐ 只读试点检查清单\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">试点目标不是证明 Agent 很强，而是暴露边界。请先在无外网写入、无真实生产库、无真实对外发送的环境中跑。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 选 2 个低风险真实任务：资料汇总、会议纪要草稿、内部知识库问答草稿。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 排除写入型动作：外发邮件、付款、删文件、改配置、生产发布、客户数据修改。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 为每个任务拆三列：计划步骤、需要记忆、可能调用工具。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 每一步标注输入来源、权限范围、预期产物、停止条件。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 先固定工具白名单，只开放读取权限，未审批接口一律阻断。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 设置预算：最多执行多少步、最多调用多少工具、最多重规划多少轮。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 运行中只记录三类异常：计划漂移、记忆污染、工具越权。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 保留证据：每步输入、输出摘要、工具调用记录、失败原因。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 试点结束后输出三档结论：可自动、需审批、不可用。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">☐ 对需审批动作单独配置审批门；对不可用动作暂停接入并写原因。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">从试点到放权：按风险递进\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">选型路径可以简单：先固定工具白名单和只读权限，再跑一轮只读试点；如果工具越权可控，再开放自动规划；如果记忆污染仍明显，只开放检索记忆，不开放长期偏好写入。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">据行业观察，适合先试点的场景包括研究整理、编码辅助、内部知识库问答、草稿生成。不适合直接放权的场景包括财务、生产变更、对外沟通、客户数据修改、合同审批。它们的共同风险不是“任务重要”，而是“错误不容易被及时发现”。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">三个常见坑：先别急着多 Agent\u003C\u002Fh2>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">坑一：用多智能体掩盖单 Agent 边界\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">多 Agent 看起来分工清晰：规划、执行、审查。据公开资料\u002F行业观察，协作也可能放大误差。一个环节偏离目标，后续环节会沿着错误继续优化，最后输出完整却跑偏的产物。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">可执行做法：先用单 Agent 跑通步骤预算、停止条件和日志。只有单 Agent 边界清楚，再考虑协作。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">坑二：把记忆库当聊天记录\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">记忆库不应自动归档所有历史。若允许 Agent 自动写入长期偏好，一次临时反馈可能变成后续所有任务的隐藏规则。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">可执行做法：过程记忆默认过期；长期偏好人工确认；敏感字段脱敏；失败会话只读归档，不能自动重新调用。\u003C\u002Fp>\u003Ch3 style=\"font-size:18px;font-weight:bold;color:#333;margin:1.6em 0 0.8em;\">坑三：工具没有回滚，却进入自动流程\u003C\u002Fh3>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">有些动作重跑一次等于做两次：重复创建文档、重复发送通知、重复写入数据库。回滚也不是简单重试，而要能明确撤回、补偿或标记无效。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">可执行做法：上线前准备只读沙箱、\u003Ccode style=\"font-family:'SF Mono',Menlo,Consolas,monospace;color:#333;background:#f5f5f5;padding:2px 6px;font-size:14px;border-radius:3px;\">dry-run\u003C\u002Fcode> 模式、审批门、操作日志和一键停止。无法描述撤回路径的动作，默认不进入自动执行。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">读完能做什么：三步落地\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第一步，挑一个真实低风险任务，填一张三列表。表里写清计划步骤、记忆使用、工具调用和停止条件。没有这张表，不要判断能否自动执行。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第二步，给工具权限分级。只读、低风险写入、高风险写入分开。低风险写入也要日志和审批；高风险写入默认人工触发。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">第三步，用 ☐ 清单跑一轮只读试点。只看三个信号：步骤是否越跑越偏，记忆是否串台，工具是否越权。最后输出三档结论，不给模糊判断。\u003C\u002Fp>\u003Ch2 style=\"font-size:20px;font-weight:bold;color:#1a1a1a;border-bottom:2px solid #4a90d9;padding-bottom:8px;margin:2em 0 1em;\">收束：边界是测出来的\u003C\u002Fh2>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">Agent 能不能放权，不靠一句“模型更强了”判断。它要看你能不能看见步骤、限住工具、管清记忆、留下证据。\u003C\u002Fp>\u003Cp style=\"font-size:16px;line-height:1.85;color:#333;margin:0 0 1em;text-align:justify;\">今天就可以从一个任务开始：跑只读试点，填三栏对照表，输出可自动、需审批、不可用。等下一轮接入写入型工具时，安全空间已经先准备好了。\u003C\u002Fp>\u003C\u002Fsection>",1107,"2026-09-28T09:03:27+08:00","2026-09-28T20:34:45.917557+08:00","2026-09-29T21:35:01.764116+08:00",["Island",195],{"key":196,"result":197},"PostCard_Q2tdhHfZKr47yNkcHCzNCkuhzQCKaVfdZiyAP87A",{"head":198},{"link":199,"style":200},[],[],["Island",202],{"key":203,"result":204},"PostCard_aCqkegqFEBYvJlCUNmlGS4lq0Krsk0b9XgWMY1Q3To",{"head":205},{"link":206,"style":207},[],[],["Island",209],{"key":210,"result":211},"PostCard_JxJ9GRCr9q1bxWCtgqwM1mSH77CWzh80kN3qKrg380",{"head":212},{"link":213,"style":214},[],[],["Island",216],{"key":217,"result":218},"PostCard_FpMLoyewZuf7Mi2ugbJt4exv2wKneeYiYt24b8alxs",{"head":219},{"link":220,"style":221},[],[],["Island",223],{"key":224,"result":225},"PortalBreadcrumb_IHdT6e2F6mzrncUnf38XvHswxVFZU98ycdGD9nkcHQ",{"head":226},{"link":227,"style":228},[],[],["Island",230],{"key":231,"result":232},"PostCard_IHdVQ1ccFcCi1Ii6FSLcITua4PwZPu28e3KHLHV3A",{"head":233},{"link":234,"style":235},[],[],["Island",237],{"key":238,"result":239},"PostCard_9JhPOHUGxI9OBmwCD4JdvKhzSHRS2ZmoRwMMzjeI",{"head":240},{"link":241,"style":242},[],[],["Island",244],{"key":245,"result":246},"PostCard_RAA9XxcSoFrBuQ0uy0GAZA4Utrl72SGDslMsintZ4F4",{"head":247},{"link":248,"style":249},[],[],["Island",251],{"key":252,"result":253},"PostCard_MCdM8uPKfyLAsuJQvx8SQy7mH2ggIw3g1hrJd8L4VSw",{"head":254},{"link":255,"style":256},[],[],["Island",258],{"key":259,"result":260},"PostCard_cl9oPLLBH49wWvjEMJIZerxrudrUYqd6PJlXE3SPsEc",{"head":261},{"link":262,"style":263},[],[],["Island",265],{"key":266,"result":267},"PostCard_c54j7Tm4FtrnbWUY5D7xSFjuppRWZANwWiLiLAoLEk",{"head":268},{"link":269,"style":270},[],[],["Island",272],{"key":273,"result":274},"PostCard_x6dtFQiBEmCye6IPguyIMK6zK20KlF5sHjVP3s6t4",{"head":275},{"link":276,"style":277},[],[],["Island",279],{"key":280,"result":281},"PostCard_KlfzCpqp8fgcrXlP31Mzt1T7HA5xajUEFhbLPSyY6q4",{"head":282},{"link":283,"style":284},[],[],["Island",286],{"key":287,"result":288},"PostCard_ZcM4SMlfTT5oin9iB3PpDcY0N7iwnKAVk3QtvPOrU",{"head":289},{"link":290,"style":291},[],[],["Island",293],{"key":294,"result":295},"PostCard_jImDaUqIeKXl44lKHw5E0hsvOgxS9XCXuSn6eUa0XY",{"head":296},{"link":297,"style":298},[],[],["Island",300],{"key":301,"result":302},"PostCard_WMpi04xPCwBWRwqA4TG9xNbyKWibKzUnRPXriEb94",{"head":303},{"link":304,"style":305},[],[],["Island",307],{"key":308,"result":309},"PostCard_Mew6jb8XkVwyi1f2ElGxWhmx92jJmTM0Spm9UfTh8",{"head":310},{"link":311,"style":312},[],[],["Island",314],{"key":315,"result":316},"PostCard_QDfcdBWBWYT8UyNw55NVUg3wJpSiX3RKiFEMylE0Nxc",{"head":317},{"link":318,"style":319},[],[],["Island",321],{"key":322,"result":323},"PostCard_lIH81AIi0XDsTGnwrvcEmAvOvx6chVmRfeWncwn4",{"head":324},{"link":325,"style":326},[],[],1790693669019]