往期
本书目录
01
序言
02
第 1 章 · 认知困局
03
第 2 章 · 产品观
04
第 3 章 · 需求观
05
第 4 章 · 用户观
06
第 5 章 · 认知融合
07
第 6 章 · 问题定义
08
第 7 章 · 体验设计
09
第 8 章 · 数据证据
10
第 9 章 · 技术认知
11
第 10 章 · 决策沟通
12
第 11 章 · 路线图与优先级
13
第 12 章 · 场景建模
14
第 13 章 · 能力抽象
15
第 14 章 · 平台架构
16
第 15 章 · 商业思维
17
第 16 章 · 市场分析
18
第 17 章 · 增长思维
19
第 18 章 · 产品运营
20
第 19 章 · 项目协作
21
第 20 章 · 组织能力
22
第 21 章 · 长期价值
23
后记
文章目录
1
第一章:GPT 与 Transformer 架构
GPT 和 ChatGPT
什么是「生成式」
从神经网络说起
CNN · RNN · LSTM,直到 Transformer
Transformer 架构与四大优势
2
第二章:大模型的工作原理
四个步骤看懂大模型
第一步:分词
词与词之间,存在远近亲疏
第二步:词嵌入
词向量:把词语变成坐标里的点
第三步:注意力机制
注意力如何打分
3
第三章:案例拆解「国王有个女儿,」
第一步:分词,得到 Token
第二步:词嵌入,「女儿」是什么
词嵌入是动态的过程,不是静态的
「开会交流」:自注意力机制
「闭门思考」:前馈网络
多层变换与最终效果
第四步:基于上下文,生成预测
4
第四章:模型训练流程
前置知识:机器学习
四种学习范式
大模型训练的三大阶段
预训练:修内功,积累知识
监督微调 SFT:「大佬教教我」
微调的例子:同一个基座,不同专长
RLHF:「接受审判」
模型成长之路:三大阶段串起来
相关文章



