文章主题目录

共 7 个专题 · 28 篇文章

这里按技术问题整理了全部文章。若想按时间顺序查看近期更新,可前往 时间归档 →

第一次系统学习 LLM? 推荐先走通 9 步主线,进阶专题遇到实际问题再按需查阅。
9 步入门路线

LLM 入门主线

6 篇

文本分词、模型结构与解码入门;完整 9 步路线还串联下方显存子系列与量化专题。

  1. 1
    Tokenization:文字怎样变成 token,分词器怎样训练

    介绍分词算法、词表训练,以及文本与 Token ID 之间的转换。

  2. 2
    困惑度 Perplexity:怎么算,怎样比较语言模型

    解释困惑度的计算方法,以及比较不同模型时需要统一的评估条件。

  3. 3
    用 PyTorch 写一个 Transformer 文本生成器

    从注意力计算开始,实现一个能够训练和生成文本的 Decoder 示例。

  4. 4
    RoPE 旋转位置编码:为什么旋转 Q 和 K 就能表示相对位置

    推导旋转位置编码的相对位置性质,并给出实现与计算示例。

  5. 5
    大模型怎样选下一个 token:Greedy、Top-K、Top-P 与 Beam Search

    介绍温度采样、Top-K、Top-P 和束搜索如何选择下一个 Token。

  6. 6
    大模型量化:从 INT4 编码到 GPTQ、AWQ

    解释量化编码、量化误差和分组方式,进一步推导 GPTQ 与 AWQ。

大模型 · 显存子系列

5 篇

先认识模型保存的数据,再讲训练状态如何分摊、微调怎样省显存,最后进入推理缓存与 FlashAttention。篇次是专题阅读顺序;FlashAttention 和 ZeRO 可按需求选读,单卡 SFT 不要求先学 ZeRO。

  1. 1
    大模型显存(一):模型运行时要存什么

    先认清权重、梯度、优化器状态、激活和缓存,说明它们为什么占用显存、怎样计算大小。

  2. 2
    大模型显存(二):ZeRO 如何分摊训练显存

    多卡选读:沿训练状态的分片方式理解 ZeRO-1/2/3 与通信代价。

  3. 3
    大模型显存(三):微调时怎样节省显存

    回到微调任务,结合 LoRA、QLoRA、激活检查点和梯度累积选择方案。

  4. 4
    大模型显存(四):从 Prefill、Decode 到 KV Cache

    沿一次生成过程区分 Prefill 与 Decode,计算权重和 KV 占用,排查推理中的显存不足。

  5. 5
    大模型显存(五):FlashAttention 为什么能省显存

    深入选读:从注意力中间矩阵到分块与在线 softmax,理解临时显存为何减少。

相关补充:量化专题:INT4、GPTQ 与 AWQ 单独保留,按需要配合阅读。

LLM 进阶专题

3 篇

进一步学习长上下文、优化器、多卡训练和偏好对齐,可按需求选择专题。

  1. 1
    怎样扩展大模型上下文:PI、NTK-aware 和 YaRN

    比较 PI、NTK-aware 和 YaRN 的位置编码调整方法与适用条件。

  2. 2
    AdamW:权重衰减与 L2 正则化的区别

    比较不同优化器中的 L2 正则化与权重衰减,解释 AdamW 的更新规则。

  3. 3
    LLM 对齐入门:RLHF、PPO 与 DPO

    介绍奖励模型、PPO 和 DPO,解释语言模型如何从偏好数据中学习。

LLM 应用与部署

2 篇

了解提示词、检索与工具调用的配合方式,并学习 Agent 部署和故障排查。

  1. 1
    LangChain 应用开发:Prompt、检索、工具与 Agent

    以文档问答为例,介绍提示模板、检索、工具调用和 Agent 执行流程。

  2. 2
    在 WSL 上部署 Hermes Agent:接入微信、配置后台服务和浏览器

    介绍 WSL 环境下的安装、消息网关、后台服务和故障定位。

数学与模型基础

8 篇

介绍概率分布、模型评估、正则化和强化学习中的基础概念与计算方法。

  1. 1
    KL 散度是什么,怎么计算

    解释 KL 散度与熵、交叉熵的关系,并推导高斯分布之间的 KL 散度。

  2. 2
    怎么从概率分布中采样:逆变换、拒绝采样和 Thompson Sampling

    介绍逆变换采样、拒绝采样和它们的计算原理。

  3. 3
    Gamma、Beta 和 Dirichlet 分布怎么理解

    介绍三种分布的定义、相互关系,以及如何用它们表示概率。

  4. 4
    L1 和 L2 正则化有什么区别

    从优化目标、几何约束和概率先验解释 L1、L2 正则化。

  5. 5
    深度强化学习:策略梯度、PPO 与价值学习

    介绍智能体如何根据奖励学习动作,推导策略梯度、PPO 和 Q-learning。

  6. 6
    分类模型的概率准不准,怎么校准

    解释概率校准的含义、常用方法,以及它与排序指标的区别。

  7. 7
    AUC 和 GAUC 怎么理解、怎么算

    解释 ROC 曲线、AUC 的计算方法,以及 GAUC 如何按组汇总结果。

  8. 8
    GAN 的损失函数是怎么推出来的

    推导生成器与判别器的损失函数,解释它们各自优化什么。

因果推断

2 篇

介绍潜在结果与处理效应,以及从观测数据推断因果关系所需的假设。

  1. 1
    因果推断(一):相关不等于因果,处理效应怎么算

    从辛普森悖论出发,解释潜在结果和平均处理效应。

  2. 2
    因果推断(二):ITE、ATE、ATT 和 CATE 有什么区别

    区分不同人群的处理效应,介绍从观测数据识别这些效应所需的假设。

学习路线与服务推荐

2 篇

查找学习顺序,或了解文中推荐的服务。

  1. 1
    大模型学习路线:从文本生成到显存优化和微调

    提供大模型学习路线,并列出各个专题及其阅读要求。

  2. 2
    机场与大模型 API 中转服务推荐

    介绍 XMRth 机场和 PackyAPI 大模型 API 中转服务。