做个靠谱的产品经理大模型四大致命伤
① 幻觉 Hallucination
生成看似合理、却没有依据的内容。这是最常被提及、也最容易被低估的一条。
② 记忆受限 Limited Memory
上下文窗口与注意力预算有限，长上下文里某些信息会被「忘记」或忽略。
③ 时效性与私有数据 Staleness & Private Data
训练数据有截止日，企业私有数据不在训练里。模型既不知道最新，也不知道内部事实。
④ 不可控性与延迟 Uncontrollability & Latency
输出难以精确约束，响应有延迟。既要护栏，也要为交互节奏留余量。
读完这篇你能带走三句话
- 窗口变大不等于模型能做的事变多。上下文腐烂让「把资料全塞进上下文」本身就是错的。
- RAG 只治内在幻觉；外在幻觉（暖不暖、值不值）靠检索救不了，只能预先算好写进库或闭嘴。
- 每个致命伤对应一道产品闸门；闸门是一次性判据，产品是持续性义务。
01学到了什么
1.1 四大致命伤的机制层，而非现象层
四个致命伤（幻觉 / 记忆受限 / 时效性与私有数据 / 不可控性与延迟）里，最容易被误解的是记忆受限，因为只有它看起来能用外部硬件扩充。但窗口变大只解决容量，不解决质量。
- 上下文腐烂（context rot）：上下文变长，模型回忆能力不是均匀下降，而是某些区域陡降。结论是「把资料都塞进上下文」本身就是错的，窗口越大越需要检索层把对的东西挑出来，而不是等更大的窗口。
- 记忆受限的真正归因：它来自 Transformer 的注意力预算有限，不是单纯算力不够。硬件会涨、架构难改、人类工作记忆也有同样的注意力漂移局限，所以这一条比「等显存变大」更 durable。
- 幻觉分两类：内在幻觉（生成内容与给定输入矛盾，答案就在输入里，RAG 能治）；外在幻觉（输入里根本没有依据，模型靠训练知识生成，RAG 救不了，因为库里没有那个信息）。
- 时效闸的正确解法：外置知识 + 版本管理，不是「等下一代模型」。私有数据不该进模型。进模型意味着规则一改就得全量重训，有周期、有成本、有遗忘；RAG 把知识放在模型外面按需取，改一条规则是改知识库一条记录。
1.2 成本结构：从能通过评测集的最小模型开始
输出比输入贵 3–5 倍，省回答长度比省提示词更省得出钱；旗舰与经济档价差可达 60 倍，同一任务质量差距有时为零；缓存命中输入约一折；路由实测约 60% 经济档 / 30% 中档 / 10% 旗舰。默认策略是从能通过评测集的最小模型开始，没有评测集就无法判断小模型够不够用。
02三个常见误解
2.1 误解一：记忆受限是算力问题，等硬件就行
常见的理解是把记忆受限归因成「算力不够 + 显存不足」。上下文太大算不过来，硬件涨上去自然解决。实际机制是 Transformer 的注意力预算有限：上下文变长时，模型回忆能力不是均匀下降，而是某些区域陡降（上下文腐烂）。算得过来，但用不好。两个归因的推论完全不同：前者推出「等窗口变大」，后者推出「不管窗口多大都会局部失灵，所以要去检索、去压缩、去隔离」。注意力预算这层更站得住，因为它经得起时间。硬件会涨、架构难改，人类的工作记忆也有同样的注意力局限。
2.2 误解二：幻觉是单一问题，加了 RAG 就基本解决
幻觉其实分两类：内在幻觉（生成内容与给定输入矛盾，答案就在输入里）和外在幻觉（输入里根本没有依据，模型靠训练知识生成）。RAG 只治内在一类。外在幻觉所需的信息库里根本没有，塞再满也检索不出来。所以判断一个问答场景能不能靠 RAG 兜住，先看答案在不在输入里：在，检索能治；不在，要么预先把结论算好写进库，要么闭嘴。
2.3 误解三：加个兜底转人工，客服 AI 就能上线
常见的上线思路是「提示词强约束 + 转人工兜底」，听起来稳了。行业现实是大量复读机加少量危险品，还多了一项人工背锅成本。AI 激怒用户后的差评落到人工头上。其中最狠的一类失败不是幻觉（知识错），是迎合倾向（立场错）：AI 天生倾向取悦人类，被稍加引导就做出超权限承诺。幻觉靠检索和引用约束，迎合靠规则护栏、权限隔离、高危操作二次确认，用错解法两边都解决不了。做得好的商家，真实定位是「分流重复问题的首问」，不是替掉人。
03案例：商详页「问 AI」入口
3.1 发生了什么
传统零售电商，在商详页加一个「问 AI」入口。用户输入「这床被子冬天盖够不够暖」「敏感肌能用吗」，AI 基于商详页已有参数与知识库素材作答。
3.2 这个需求的本质
购买决策辅助。用户在商详页时永远处于「决策中」状态，这个状态不随 AI 怎么介入而改变。
3.3 四道闸门的判断
| 闸门 | 判断 | 理由 |
|---|---|---|
| 幻觉闸 | 部分过 | 查参数（填充物克重、含绒量）有出处不会编；推结论（够不够暖、值不值得买）库里没有，只能靠模型内部知识补，检索救不了 |
| 记忆闸 | 不过 | 商详页数十个字段 + SKU 差异 + 材质说明，全塞容易串味（三床同款不同克重） |
| 时效闸 | 不过 | 「敏感肌能用吗」要看成分表和最新批次，模型拿的是哪一版，靠外置知识 + 版本管理 |
| 体验闸 | 视上一票 | 用户分辨不出真假时，读得越流畅越危险 |
3.4 结论
不做「问 AI」，做参数解读器 + 分流。两半缺一不可：
规则明确的区间，做参数解读器。不回答问题，只把相关字段挑出来拼成人话。参数表几十个字段人懒得翻，AI 的价值是按问题把散在字段里的信息重新组织一遍，它不产出新知识，做的是组织。边界判据是「规则明确」四个字：可枚举、可查证、可直接引用的区间 AI 才安全发挥。
答不了的区间，做分流。暖不暖、值不值这类结论问题，AI 不该现场编，但「闭嘴」不是终点：把用户引到有答案的地方去（评价区、真实买家反馈）。这正是行业里做得好的商家的真实定位。AI 的价值不是替掉人、也不是硬答，是把重复问题的首问接过来，答得了的直接答，答不了的分流出去。
3.5 换个业务还成立吗
成立。社群团购的智能答疑、新零售的导购，本质都是「用户在决策」，结论都收敛到「直接回答退化成分流」。差异在分流指向哪个节点（商详页引评价区，社群团购引团长），本质不变。
04三条判断
05拿真实需求练手：社群团购智能答疑
5.1 场景
社交电商，群主或团员在团购群里问：「这个团的车厘子甜不甜」「几斤装划算」「孕妇能吃吗」。
5.2 用三条判据过
- 本质与定位分离：本质是社群团购购买决策辅助（与商详页同构），定位从直接回答退化成分流。验证可迁移。
- 四道闸门：幻觉闸不过（甜不甜、划算、孕妇能吃一般不在企业知识库，LLM 编造形成外在幻觉）；时效闸不过（团购价、库存、成团状态每天变，且是私有实时数据）；记忆闸不过（一个群多 SKU、多团并行，必须带团 ID + SKU 做检索隔离）；体验闸不过（群聊要秒回短答，AI 长篇大论没人看）。四道闸全不过，收敛为「分流 + 外置实时数据 + 高频外在结论预写库」。
- 外在 / 内在幻觉：「甜不甜」若知识库有甜度评级就是内在，没有就是外在；「几斤装」规格是内在，但「划算」价格维度可算是内在、主观价值维度是外在；「孕妇能吃吗」同理。同一个问题因解读角度不同会落不同类别。产品动作是把高频的外在结论预先算好写进库，转不了的（主观划算）闭嘴或分流到团长。
5.3 MVP 切法
库有的（参数、商品详情、食用报告）→ 直接答或发参数表；库没有的 → 引导咨询团长、社群经销商。优先做分流和知识库完善，暂不做外部知识解答和人工核对。比商详页多走的一步：社群天然有团长这个角色，分流目标更明确。
5.4 反例清单
| 判据 | 反例场景 | 失效条件 |
|---|---|---|
| 本质与定位分离 | 探索期产品，本质模糊 | 本质未锁定时分离动作做不了，没有稳定的本质可分离 |
| 致命伤 → 闸门 | MVP 探针，明知不过仍上 | 闸门是探索门槛而非上线门槛时局部可用 |
| 外在 / 内在决定 RAG | 封闭 FAQ，知识全在库 | 外在幻觉不存在时「只治内在」失效 |
06一个还没想清楚的问题
这个问题用商详页的例子最容易讲清。
商详页上线前，四道闸门判过了：幻觉闸部分过、记忆闸靠检索隔离、时效闸靠外置知识 + 版本管理、体验闸换交互。验收归档，项目结束。
所以缺的可能不是第五道闸门，是「闸门要反复答」这件事本身。落到产品形态上，这意味着两件事：
- 交付物不是「一个知识库」，是「知识库 + 谁在什么周期内更新它」。只建库、不定更新责任人和更新节奏，库会静默腐烂，闸门跟着失效。
- 评估方案不该是一次性验收，该是一个常设角色。每道闸门都要持续答，就得有人持续答。类似「AI 客服训练师」这种岗位：盯数据变化、复核回答质量、维护知识库。
没想清楚的是：这个常设角色谁来当（业务运营、客服团队还是算法团队）、算谁的成本、考核怎么定。四道闸门解决了「能不能上线」，没解决「上线之后谁养」。后者目前仍没有答案。