AI 需求怎么选落地方式
- 落地选型从最简单的开始:最便宜够用优先,上一层只在下一层不够时才上。
- Anthropic 的五种工作流(提示链 Prompt chaining、路由 Routing、并行 Parallelization、编排-工人 Orchestrator-workers、评估-迭代 Evaluator-optimizer)都是「预定义控制流」,仍属工作流层,不是自主 Agent。
- 商详页 = Routing + Prompt chaining 的组合,不是自主 Agent,恰好印证「够用即停」。
01AI 落地方式的全景图:五种工作流与选型判断
核心论点
核心原则一句话:「找到最简单的可行方案,只在确实需要时才增加复杂度。」 对许多应用,靠检索加上下文示例优化单次 LLM 调用就已经足够;Agent 系统是用延迟与成本换取任务表现,要先想清楚这笔权衡划不划算。工作流对定义清晰的任务提供可预测性与一致性,Agent 则在需要灵活性与模型自主决策时更合适。
五种工作流
五种工作流逐个过,每个都把定义、适用场景、例子和控制流图放在一起(绿色块=LLM 节点,灰块=输入输出,箭头=数据流向):
怎么做:把任务拆成顺序步骤,每步 LLM 调用处理上一步的输出。何时用:任务能干净地拆成固定子任务,用分步降低单步难度、换准确率。典型例子:写大纲 → 检查是否符合标准 → 按大纲写文档;生成营销文案 → 翻译。
怎么做:对输入分类,再导向专门的后续任务、提示或工具。何时用:有不同类别需分别处理,且分类能准确完成(LLM 或传统分类器都行)。典型例子:客服问题分流到普通 / 退款 / 技术支持三条流程;简单问题给小模型、难题给强模型。
怎么做:多个 LLM 同时工作,输出由程序聚合。何时用:子任务可并行提速,或要多视角、多次尝试提升置信度。典型例子:一个实例处理查询、另一个筛查不当内容(护栏);多 prompt 审代码漏洞投票表决。
怎么做:中央 LLM 动态拆任务、委派给 worker LLM、综合结果。何时用:无法预知子任务的复杂任务,子任务要按输入现场决定。典型例子:改动多个文件的编码产品;多源信息搜集分析。
怎么做:一个 LLM 调用生成响应,另一个在循环中评估、给反馈,直至达标。何时用:有清晰评估标准、且迭代精炼能带来可衡量价值。典型例子:文学翻译质量循环改进;复杂搜索的多轮优化。
微调 vs RAG:一条分叉判断
在「要不要微调」这件事上,业界的共识高度一致,落到选型上就是一条分叉判断。
四种方式的成本对比
把提示词、RAG、Agent、微调放在同一张表里比,结论很一致:越往右成本与复杂度越高,能不往上走就不走。
| 维度 | 提示词 Prompt | RAG | Agent | 微调 Fine-tune |
|---|---|---|---|---|
| 开发成本 | 低 | 中(需检索基建) | 高(编排/状态管理) | 高(数据准备+训练) |
| 推理成本 | 最低 | 低+检索开销 | 高(多轮 LLM 调用) | 中(单次但常需大模型) |
| 知识更新 | 改 prompt | 热更新知识库 | 热更新知识库 | 需重新训练 |
| 可控性 | 高 | 高 | 中(模型自主决策) | 低(行为难精准调) |
| 最适合 | 目标明确的单步任务 | 知识频繁变动的问答 | 多步/动态拆解的任务 | 固定风格/格式/能力内化 |
回到选型主线
这五种模式全部是「预定义控制流」,落到路线图里仍属工作流层(L1–L2)的编排范畴,没有一种等于自主 Agent(L3)。这直接支撑「够用即停」的主线:
02案例 · 商详页的落地方式选择
用一条最贴近电商的场景,把四种方式「该用 / 不该用」逐一落锤:商品详情页的 AI 问答(用户问价格、参数、库存、以旧换新、分期免息)。
业务现状
- 用户问题高度集中:价格 / 库存 / 参数 / 活动,90% 的答案能在商品知识库(SPU 字段、价格表、活动规则)里找到。
- 这些知识每日变动:价格随促销跳、库存随下单减,不能当写死事实。
- 单次咨询结构固定:识别意图 → 拉知识 → 组织话术,没有跨系统、多步自主编排。
- 客服口径要统一(同一问题不能几种答法),可控性要求高。
四种方式逐一过一遍
| 方式 | 判 | 事实依据 | 归因 |
|---|---|---|---|
| Prompt 提示词 | 用 | 输出要统一口径:价格怎么报、活动怎么讲有固定套路,话术结构可预定义。 | 单步、目标明确的任务,用最低成本约束输出结构与话术,不必上更复杂机制。 |
| RAG 检索增强 | 用 | 答案在商品知识库里且每日变动,属于「外在幻觉可治」:答案就在输入侧。 | 热更新知识库即可,不用改模型;命中典型 RAG 场景,与决策树(图 6)一致。 |
| Agent 自主编排 | 不用 | 单次咨询是单分支:识别意图→取知识→答,没有跨工具多步决策。 | 上 Agent 把决策权交给模型,可控性降、答非所问风险升、成本升,收益不抵代价。 |
| 微调 Fine-tune | 不用 | 价格 / 库存高频变(不该烤进权重);且没有任何「换模型风格 / 能力」诉求。 | 改的是「知识」不是「能力」,又属高频变动,RAG 更合适,微调反而让知识永远滞后。 |
换个业务还成立吗?
03三条选型判据
三条正交的选型判据,互不重叠,合起来就是一张选型 Checklist。
① 底座够用即停 / 倒序选型
不盲上最复杂的方案;按实际业务场景与需求,选「够用」的底座即可。操作上,在 Prompt → RAG → 规则 这条线上,从最便宜能解决的那头起用,不提前上更重的机制。
② 确定性判断前置(规则 / 工具前置,LLM 收尾)
凡是能由规则、数据库、接口确定性算清的判断(资格、价格、库存、是否参与活动),放在 LLM 之前处理;LLM 只承接那部分不可约的语言组织与主观表达。作用是把 LLM 的出错面压到最小,不合格路径直接拦在 LLM 外,既降错又省推理成本。
③ Agent 触发条件(编排层闸门)
先按「够用即停」选底座,再问一句:任务需不需要运行时动态多步 + 循环? 需要,才在底座之上加 Agent 这层编排;不需要,就停在 Prompt / RAG / 规则。关键认知:Agent 不是与这三者平级的「第四种方式」,而是它们的编排层。
04场景检验 · AI 导购 + 反例清单
拿一个真实需求把三条判据走一遍:某传统零售电商 App 的「AI 导购」(用户说「我想给妈妈买个 50 岁生日礼物,预算 2000 以内,她喜欢拍照」,机器人要追问澄清、挑候选、解释推荐、比两款、给建议。与商详页对拍:同样电商、同样查商品库,但是开放式多轮。
三条判据过一遍
幻觉追问:导购的 LLM 解释 / 比较 / 建议 会不会乱编?
不会,因为 LLM 在这里是「组织器」不是「知识源」,候选商品、价格、参数都由 RAG / 接口真实注入 prompt,LLM 只把结构化事实翻译成人话。这正是「外在幻觉」:答案在输入侧,可治。关键澄清:「上 Agent(③)」与「幻觉治理(① grounding + ② 前置)」是两个独立维度,前者管编排复杂度,后者管事实真假。
反例清单(护栏)
| 反例 | 违反 | 后果 |
|---|---|---|
| 简单参数问答也堆 RAG + Agent | ① 底座过深 | 成本不抵收益,复杂度空转 |
| 预算 / 库存 / 性别交给 LLM 编而非规则前置 | ② 确定性错配 | 超预算推荐、无库存推荐、性别错配 |
| 商详页硬上 Agent | ③ 单分支不需编排 | 多轮跑偏、口径不一、成本升 |
| 导购做成固定线性链不上 Agent | ③ 动态多步被忽略 | 答不了「和刚才那款比」、追问写死 |
| 高频变动知识用微调 | ① + ② | 价格一变要重训,知识永远滞后 |
| 让 LLM 凭自身记忆报价格 / 参数 | ① grounding 缺失 | 外在幻觉爆发,编出不存在的规格 |
05一个还没想清楚的问题
这套判据里,Agent 的触发条件最硬:运行时需要动态多步加循环,就上;单分支固定流程,就不上。RAG 的分叉也干脆:知识常变、答案在库里有,就检索。唯独微调,只拿到了半条判据。
成本对比给了它位置(最贵、最靠右),微调 vs RAG 的分叉排除了「知识频繁变动」的场景,但这些都是排除法。正面的问题一直没答:什么时候 prompt 是真的写不动了、必须微调?让模型稳定吐严格 JSON、口气贴合品牌、学会一套私有格式,这类「能力和格式」的需求检索解决不了,可它们也没有一条像「运行时循环」那样一测便知的硬条件。



