文章主题目录
共 7 个专题 · 28 篇文章这里按技术问题整理了全部文章。若想按时间顺序查看近期更新,可前往 时间归档 →
LLM 入门主线
6 篇文本分词、模型结构与解码入门;完整 9 步路线还串联下方显存子系列与量化专题。
- 1Tokenization:文字怎样变成 token,分词器怎样训练
介绍分词算法、词表训练,以及文本与 Token ID 之间的转换。
- 2困惑度 Perplexity:怎么算,怎样比较语言模型
解释困惑度的计算方法,以及比较不同模型时需要统一的评估条件。
- 3用 PyTorch 写一个 Transformer 文本生成器
从注意力计算开始,实现一个能够训练和生成文本的 Decoder 示例。
- 4RoPE 旋转位置编码:为什么旋转 Q 和 K 就能表示相对位置
推导旋转位置编码的相对位置性质,并给出实现与计算示例。
- 5大模型怎样选下一个 token:Greedy、Top-K、Top-P 与 Beam Search
介绍温度采样、Top-K、Top-P 和束搜索如何选择下一个 Token。
- 6大模型量化:从 INT4 编码到 GPTQ、AWQ
解释量化编码、量化误差和分组方式,进一步推导 GPTQ 与 AWQ。
大模型 · 显存子系列
5 篇先认识模型保存的数据,再讲训练状态如何分摊、微调怎样省显存,最后进入推理缓存与 FlashAttention。篇次是专题阅读顺序;FlashAttention 和 ZeRO 可按需求选读,单卡 SFT 不要求先学 ZeRO。
- 1大模型显存(一):模型运行时要存什么
先认清权重、梯度、优化器状态、激活和缓存,说明它们为什么占用显存、怎样计算大小。
- 2大模型显存(二):ZeRO 如何分摊训练显存
多卡选读:沿训练状态的分片方式理解 ZeRO-1/2/3 与通信代价。
- 3大模型显存(三):微调时怎样节省显存
回到微调任务,结合 LoRA、QLoRA、激活检查点和梯度累积选择方案。
- 4大模型显存(四):从 Prefill、Decode 到 KV Cache
沿一次生成过程区分 Prefill 与 Decode,计算权重和 KV 占用,排查推理中的显存不足。
- 5大模型显存(五):FlashAttention 为什么能省显存
深入选读:从注意力中间矩阵到分块与在线 softmax,理解临时显存为何减少。
相关补充:量化专题:INT4、GPTQ 与 AWQ 单独保留,按需要配合阅读。
LLM 进阶专题
3 篇进一步学习长上下文、优化器、多卡训练和偏好对齐,可按需求选择专题。
- 1怎样扩展大模型上下文:PI、NTK-aware 和 YaRN
比较 PI、NTK-aware 和 YaRN 的位置编码调整方法与适用条件。
- 2AdamW:权重衰减与 L2 正则化的区别
比较不同优化器中的 L2 正则化与权重衰减,解释 AdamW 的更新规则。
- 3LLM 对齐入门:RLHF、PPO 与 DPO
介绍奖励模型、PPO 和 DPO,解释语言模型如何从偏好数据中学习。
LLM 应用与部署
2 篇了解提示词、检索与工具调用的配合方式,并学习 Agent 部署和故障排查。
- 1LangChain 应用开发:Prompt、检索、工具与 Agent
以文档问答为例,介绍提示模板、检索、工具调用和 Agent 执行流程。
- 2在 WSL 上部署 Hermes Agent:接入微信、配置后台服务和浏览器
介绍 WSL 环境下的安装、消息网关、后台服务和故障定位。
数学与模型基础
8 篇介绍概率分布、模型评估、正则化和强化学习中的基础概念与计算方法。
- 1KL 散度是什么,怎么计算
解释 KL 散度与熵、交叉熵的关系,并推导高斯分布之间的 KL 散度。
- 2怎么从概率分布中采样:逆变换、拒绝采样和 Thompson Sampling
介绍逆变换采样、拒绝采样和它们的计算原理。
- 3Gamma、Beta 和 Dirichlet 分布怎么理解
介绍三种分布的定义、相互关系,以及如何用它们表示概率。
- 4L1 和 L2 正则化有什么区别
从优化目标、几何约束和概率先验解释 L1、L2 正则化。
- 5深度强化学习:策略梯度、PPO 与价值学习
介绍智能体如何根据奖励学习动作,推导策略梯度、PPO 和 Q-learning。
- 6分类模型的概率准不准,怎么校准
解释概率校准的含义、常用方法,以及它与排序指标的区别。
- 7AUC 和 GAUC 怎么理解、怎么算
解释 ROC 曲线、AUC 的计算方法,以及 GAUC 如何按组汇总结果。
- 8GAN 的损失函数是怎么推出来的
推导生成器与判别器的损失函数,解释它们各自优化什么。
因果推断
2 篇介绍潜在结果与处理效应,以及从观测数据推断因果关系所需的假设。
- 1因果推断(一):相关不等于因果,处理效应怎么算
从辛普森悖论出发,解释潜在结果和平均处理效应。
- 2因果推断(二):ITE、ATE、ATT 和 CATE 有什么区别
区分不同人群的处理效应,介绍从观测数据识别这些效应所需的假设。
学习路线与服务推荐
2 篇查找学习顺序,或了解文中推荐的服务。
- 1大模型学习路线:从文本生成到显存优化和微调
提供大模型学习路线,并列出各个专题及其阅读要求。
- 2机场与大模型 API 中转服务推荐
介绍 XMRth 机场和 PackyAPI 大模型 API 中转服务。