AI 需求怎么选落地方式

4934 字
33 分钟
AI 需求怎么选落地方式
logo做个靠谱的产品经理
认知与设计

AI 需求怎么选落地方式

过完四道闸门、确认值得做之后,选型到底在选什么:提示词、RAG、Agent、微调,按什么顺序加。
  1. 落地选型从最简单的开始:最便宜够用优先,上一层只在下一层不够时才上。
  2. Anthropic 的五种工作流(提示链 Prompt chaining、路由 Routing、并行 Parallelization、编排-工人 Orchestrator-workers、评估-迭代 Evaluator-optimizer)都是「预定义控制流」,仍属工作流层,不是自主 Agent。
  3. 商详页 = Routing + Prompt chaining 的组合,不是自主 Agent,恰好印证「够用即停」。

01AI 落地方式的全景图:五种工作流与选型判断

核心论点

核心原则一句话:「找到最简单的可行方案,只在确实需要时才增加复杂度。」 对许多应用,靠检索加上下文示例优化单次 LLM 调用就已经足够;Agent 系统是用延迟与成本换取任务表现,要先想清楚这笔权衡划不划算。工作流对定义清晰的任务提供可预测性与一致性,Agent 则在需要灵活性与模型自主决策时更合适。

关键分界:工作流 = LLM 与工具通过预定义代码路径编排(控制流写在代码里);Agent = LLM 动态主导自己的流程与工具使用(控制流在模型手里)。这个分界是后面五种模式都还属于「工作流层」的根本原因。

五种工作流

五种工作流逐个过,每个都把定义、适用场景、例子和控制流图放在一起(绿色块=LLM 节点,灰块=输入输出,箭头=数据流向):

图 1 · Prompt chaining 提示链:任务拆成固定步骤,上一步输出喂给下一步

怎么做:把任务拆成顺序步骤,每步 LLM 调用处理上一步的输出。何时用:任务能干净地拆成固定子任务,用分步降低单步难度、换准确率。典型例子:写大纲 → 检查是否符合标准 → 按大纲写文档;生成营销文案 → 翻译。

输入 LLM ① 步骤①结果 LLM ② 步骤②结果 LLM ③ 输出
每一步是一个 LLM 调用,可在中间步骤加程序化「关卡」检查上一步是否满足标准,不满足就停下或重来。
图 2 · Routing 路由:先分类,再按类别把输入导到不同分支

怎么做:对输入分类,再导向专门的后续任务、提示或工具。何时用:有不同类别需分别处理,且分类能准确完成(LLM 或传统分类器都行)。典型例子:客服问题分流到普通 / 退款 / 技术支持三条流程;简单问题给小模型、难题给强模型。

输入 分类 LLM 路径 A简单问题 → 小模型 路径 B退款 → 专用流程 路径 C技术支持 → 专家
分支数量随业务而定(客服分流、按难度派给不同模型都是同一套路),关键在「先判类、后分发」。
图 3 · Parallelization 并行:同一输入同时跑多个 LLM,结果程序化聚合

怎么做:多个 LLM 同时工作,输出由程序聚合。何时用:子任务可并行提速,或要多视角、多次尝试提升置信度。典型例子:一个实例处理查询、另一个筛查不当内容(护栏);多 prompt 审代码漏洞投票表决。

输入 LLM ① LLM ② 聚合 / 汇总并行结果统一 输出
两种变体:分段(Sectioning,拆成互不依赖的子任务并行提速)与投票表决(Voting,同一任务多次跑取多样输出再表决)。
图 4 · Orchestrator-workers 编排-工人:中央 LLM 动态拆任务、派给工人、再综合

怎么做:中央 LLM 动态拆任务、委派给 worker LLM、综合结果。何时用:无法预知子任务的复杂任务,子任务要按输入现场决定。典型例子:改动多个文件的编码产品;多源信息搜集分析。

输入 Orchestrator中央 LLM Worker ① Worker ② Worker ③ 综合结果 输出
与 Routing 的区别:子任务不是预先写死,而是由 Orchestrator 按输入现场决定要不要派、派几个。
图 5 · Evaluator-optimizer 评估-迭代:生成与评估互搏,直到达标

怎么做:一个 LLM 调用生成响应,另一个在循环中评估、给反馈,直至达标。何时用:有清晰评估标准、且迭代精炼能带来可衡量价值。典型例子:文学翻译质量循环改进;复杂搜索的多轮优化。

输入 生成 LLM 响应 评估 LLM 输出 反馈 / 迭代优化(未达标则回到生成 LLM 重做)
一个 LLM 负责「写」,另一个负责「挑毛病给反馈」,循环往复,直到评估方认为通过。

微调 vs RAG:一条分叉判断

在「要不要微调」这件事上,业界的共识高度一致,落到选型上就是一条分叉判断。

两条判断主线:①知识是否频繁变动:常变(价格、库存、最新政策)就走 RAG,把它当「外挂知识」热更新,别烤进权重;②要改的是「知识」还是「能力/风格」:要让模型记住新事实用 RAG,要让模型学会新格式/新语气/新任务模式才考虑微调。
图 6 · 微调 vs RAG 决策树:先问改风格还是补知识,再问知识常不常变
要模型做什么 (选型目标) 要改风格/ 格式/能力? 是 否 知识常变动? 是 否 微调 Fine-tune RAG 提示词 Prompt
判定顺序:先看「是不是要改模型本身的能力/风格」:是就微调;不是(只是用知识回答),再看「知识常不常变」:常变用 RAG,不常变直接提示词。
落到商详页:参数、价格、库存都是高频变动、且答案就在商品知识库里(外在幻觉可治),典型 RAG 场景;没有任何「让模型换一种说话/写作风格」的诉求,所以微调不在选项内。

四种方式的成本对比

把提示词、RAG、Agent、微调放在同一张表里比,结论很一致:越往右成本与复杂度越高,能不往上走就不走。

维度提示词 PromptRAGAgent微调 Fine-tune
开发成本低中(需检索基建)高(编排/状态管理)高(数据准备+训练)
推理成本最低低+检索开销高(多轮 LLM 调用)中(单次但常需大模型)
知识更新改 prompt热更新知识库热更新知识库需重新训练
可控性高高中(模型自主决策)低(行为难精准调)
最适合目标明确的单步任务知识频繁变动的问答多步/动态拆解的任务固定风格/格式/能力内化
落到商详页:按「够用即停」,Prompt+RAG 已经命中需求,不需要 Agent 的编排开销,也不需要微调的训练/重训成本。

回到选型主线

这五种模式全部是「预定义控制流」,落到路线图里仍属工作流层(L1–L2)的编排范畴,没有一种等于自主 Agent(L3)。这直接支撑「够用即停」的主线:

商详页的解法 = Routing(答得了 → 参数解读;答不了 → 分流到评价区)+ Prompt chaining(抽字段 → 拼成人话)。这是两个工作流的组合,不是自主 Agent,更不需要微调。「对许多应用,优化单次 LLM 调用加检索就够」,这个判断在商详页再次成立。

02案例 · 商详页的落地方式选择

用一条最贴近电商的场景,把四种方式「该用 / 不该用」逐一落锤:商品详情页的 AI 问答(用户问价格、参数、库存、以旧换新、分期免息)。

业务现状

  • 用户问题高度集中:价格 / 库存 / 参数 / 活动,90% 的答案能在商品知识库(SPU 字段、价格表、活动规则)里找到。
  • 这些知识每日变动:价格随促销跳、库存随下单减,不能当写死事实。
  • 单次咨询结构固定:识别意图 → 拉知识 → 组织话术,没有跨系统、多步自主编排。
  • 客服口径要统一(同一问题不能几种答法),可控性要求高。

四种方式逐一过一遍

方式判事实依据归因
Prompt 提示词用 输出要统一口径:价格怎么报、活动怎么讲有固定套路,话术结构可预定义。 单步、目标明确的任务,用最低成本约束输出结构与话术,不必上更复杂机制。
RAG 检索增强用 答案在商品知识库里且每日变动,属于「外在幻觉可治」:答案就在输入侧。 热更新知识库即可,不用改模型;命中典型 RAG 场景,与决策树(图 6)一致。
Agent 自主编排不用 单次咨询是单分支:识别意图→取知识→答,没有跨工具多步决策。 上 Agent 把决策权交给模型,可控性降、答非所问风险升、成本升,收益不抵代价。
微调 Fine-tune不用 价格 / 库存高频变(不该烤进权重);且没有任何「换模型风格 / 能力」诉求。 改的是「知识」不是「能力」,又属高频变动,RAG 更合适,微调反而让知识永远滞后。
图 7 · 商详页真实问答链路:Routing + RAG + Prompt chaining 的组合(非自主 Agent)
输入 分类 LLMRouting RAG 取知识参数·价格·库存 Prompt 组织抽字段→拼话术 输出 答不了 → 分流评价区 / 转人工 商品知识库(热更新)
主链路是单分支的「识别→取知识→组织话术」,只在「答不了」时向下分流;全程控制流写在代码里(Routing + 固定两步),不是模型自主决策,所以不是 Agent。

换个业务还成立吗?

迁移 1 · 售后 / 退换货政策咨询:政策也常变、答案仍在知识库、仍是单步问答 → Prompt + RAG 同样成立。印证「单步 + 知识常变就够用即停」不是商详页特例。
迁移 2 · 平台级智能助手(查物流 / 申请退款 / 下单):任务变成多步编排、要跨订单 / 物流 / 支付自主决策 → 这里 Agent 该上。说明「商详页不用 Agent」是场景判断、不是铁律;选型锚点是「任务要不要多步自主」,而非「电商就一律不上 Agent」。
反例警示:把商详页硬上 Agent → 多轮跑偏、同一问题不同答法、运维成本升;硬上微调 → 价格一变就要重训,知识永远滞后。两者都指向同一条:超出任务需要的复杂度,是成本不是能力。

03三条选型判据

三条正交的选型判据,互不重叠,合起来就是一张选型 Checklist。

① 底座够用即停 / 倒序选型

不盲上最复杂的方案;按实际业务场景与需求,选「够用」的底座即可。操作上,在 Prompt → RAG → 规则 这条线上,从最便宜能解决的那头起用,不提前上更重的机制。

② 确定性判断前置(规则 / 工具前置,LLM 收尾)

凡是能由规则、数据库、接口确定性算清的判断(资格、价格、库存、是否参与活动),放在 LLM 之前处理;LLM 只承接那部分不可约的语言组织与主观表达。作用是把 LLM 的出错面压到最小,不合格路径直接拦在 LLM 外,既降错又省推理成本。

③ Agent 触发条件(编排层闸门)

先按「够用即停」选底座,再问一句:任务需不需要运行时动态多步 + 循环? 需要,才在底座之上加 Agent 这层编排;不需要,就停在 Prompt / RAG / 规则。关键认知:Agent 不是与这三者平级的「第四种方式」,而是它们的编排层。

图 8 · 三条判据决策流:先选底座深度,再排组合顺序,最后问要不要加编排层
接到一个 AI 需求 ① 选底座深度Prompt → RAG → 规则,够用即停 ② 组合顺序确定性判断前置,LLM 收尾 需运行时动态 多步 + 循环? 否 停在底座 是 加 Agent 编排层
三条判据正交:① 管「选多深」(底座深度轴),② 管「怎么排」(组合顺序轴),③ 管「加不加编排层」(Agent 闸门轴)。

04场景检验 · AI 导购 + 反例清单

拿一个真实需求把三条判据走一遍:某传统零售电商 App 的「AI 导购」(用户说「我想给妈妈买个 50 岁生日礼物,预算 2000 以内,她喜欢拍照」,机器人要追问澄清、挑候选、解释推荐、比两款、给建议。与商详页对拍:同样电商、同样查商品库,但是开放式多轮。

三条判据过一遍

① 底座:顶层 Routing + Prompt 意图识别;RAG 从商品库召回候选;规则过滤预算 / 类目 / 库存 / 性别;算法(相似度 + 综合 + 销量权重)排序。没上最重的方案。
② 确定性前置:预算(超预算砍)、类目(生日礼物排除生鲜 / 日用品 / 家具,靠商品标签)、库存(无货不推)、性别(妈妈→女性向,性别错配硬过滤)。全在 LLM 之前用规则 / DB 算清。
③ Agent 闸门:判「上」。场景是开放式多轮:追问澄清、比完 A/B 可能要比 B/C、「解释」和「建议」之间可能插「有没有更便宜的」,命中「运行时动态多步 + 循环」,线性链接不住。
图 9 · 导购架构:Agent 是架在底座之上的编排层,调 RAG / 规则 / 接口,LLM 只做解释·比较·建议
用户多轮对话 Agent 编排层动态决定调谁·按什么顺序·循环 RAG 召回商品库语义召回 规则 / DB预算·类目·库存·性别 接口 / 工具价格·库存实时 LLM 解释 · 比较 · 建议只组织已对齐的事实,不编
Agent 管的是「流程编排」,不解决「事实真假」。事实真假由 ①(RAG grounding)+ ②(规则前置)管,这正是下一节「幻觉追问」的落点。

幻觉追问:导购的 LLM 解释 / 比较 / 建议 会不会乱编?

不会,因为 LLM 在这里是「组织器」不是「知识源」,候选商品、价格、参数都由 RAG / 接口真实注入 prompt,LLM 只把结构化事实翻译成人话。这正是「外在幻觉」:答案在输入侧,可治。关键澄清:「上 Agent(③)」与「幻觉治理(① grounding + ② 前置)」是两个独立维度,前者管编排复杂度,后者管事实真假。

防幻觉手段:① 事实全 grounding(价格 / 参数 / 库存经 RAG + 接口注入,LLM 不回忆);② 规则前置(不符商品不进 LLM 视野);工具调用(Agent 调接口拿真实价格再让 LLM 组织);输出带依据 / 溯源;超纲就澄清或中性兜底,不硬答。

反例清单(护栏)

反例违反后果
简单参数问答也堆 RAG + Agent① 底座过深成本不抵收益,复杂度空转
预算 / 库存 / 性别交给 LLM 编而非规则前置② 确定性错配超预算推荐、无库存推荐、性别错配
商详页硬上 Agent③ 单分支不需编排多轮跑偏、口径不一、成本升
导购做成固定线性链不上 Agent③ 动态多步被忽略答不了「和刚才那款比」、追问写死
高频变动知识用微调① + ②价格一变要重训,知识永远滞后
让 LLM 凭自身记忆报价格 / 参数① grounding 缺失外在幻觉爆发,编出不存在的规格

05一个还没想清楚的问题

这套判据里,Agent 的触发条件最硬:运行时需要动态多步加循环,就上;单分支固定流程,就不上。RAG 的分叉也干脆:知识常变、答案在库里有,就检索。唯独微调,只拿到了半条判据。

成本对比给了它位置(最贵、最靠右),微调 vs RAG 的分叉排除了「知识频繁变动」的场景,但这些都是排除法。正面的问题一直没答:什么时候 prompt 是真的写不动了、必须微调?让模型稳定吐严格 JSON、口气贴合品牌、学会一套私有格式,这类「能力和格式」的需求检索解决不了,可它们也没有一条像「运行时循环」那样一测便知的硬条件。

没想清楚的是:微调的触发判据长什么样。只靠「prompt 试过了不太行」这种体感,微调会被高估(一遇难处就想到重训)或被低估(一直凑合写 prompt)。这个问题目前没有定论。

06一句话总结

选型不是挑最强的方案,是买最少的复杂度:确定性交给规则,事实交给检索,语言交给 LLM,编排交给 Agent,每一层都要拿真实需求来换。

支持与分享

如果这篇文章对你有帮助,欢迎分享给更多人或打赏支持!

当前页面没有目录

文章目录

当前页面没有目录