读完一个机制你能不能在白板上用几个数字从头把它算一遍比如为什么每一步都有 95% 是对的一个 10 步的 Agent 任务却经常做不完我做推荐算法转向大模型时发现痛点不是资料太少而是读过不等于会用。大多数教程让你记住了一个东西但没让你自己推出来。所以我按第一性原理做了一套大模型课程从 Transformer 一路讲到 Agent免费、免登录、手机可看。在线阅读https://zhuangzhaoyeye.github.io/llm-course/源码https://github.com/zhuangzhaoyeye/llm_course MIT 许可传统教程的症结知识树传统教程先分类再逐类填充。你记住的是层级关系比如Self-Attention 是 Transformer 的组件Q/K/V 是三个矩阵。但分类是专家回顾时的视角不是学习时该走的路。你还没遇到RNN 处理长句会丢信息就被告诉Self-Attention 解决了长距离依赖这对你只是一条信息不是一个领悟。这套课的做法因果链先让问题出现再让解法被逼出来。传统教法本课程开场“今天学 Self-Attention它是 RNN 的优化”“梯度每步乘 0.9传 50 步后只剩 0.005怎么让每个词直接看到所有词”路径分类 → 定义 → 公式 → 结论问题 → 撞墙 → 尝试 → 再撞墙 → 逼出解法你得到记住层级关系理解为什么会需要它第一性原理三条可检查的标准不从业界怎么做讲起从为什么必须这样讲起。用因果链替代知识树之后下面三条标准会反复出现标准解决的问题本课程怎么做问题驱动不知道为什么要学每张卡片以一个问题开头让你先想 30 秒计算走查懂了概念算不来用最小的真实例子算到底冲突可见记住解法不知道代价不只讲怎么做还算不这么做的后果三个例子来自课程的不同部分课程问题算出来的结果第 21 课 Agent每步 95% 正确10 步任务为什么常做不完0.95¹⁰ ≈ 0.599二十步只剩 0.358第 17 课 微调工程4096×4096 的权重更新LoRA 凭什么只学一点点全量 16,777,216 个数r8 只学 65,536 个压缩 256 倍第 15 课 KV Cache一个 8K 上下文的 70B 请求要占多少显存每个 token 0.3125 MiB8K 就是 2.5 GiB再看一个代价LoRA 把可训练参数压到千分之几65B 为什么还是训不动因为被冻结的 130 GB 基座权重仍然躺在显存里压缩的只是要更新的部分。数字放在表格里每步一个独立标题从上一步自然导出没有来路不明的魔法常数。课程覆盖什么共 34 课、204 张卡片分五个部分部分内容认知衔接1–6Transformer、模型结构、Tokenization、从 Transformer 到 LLM训练范式7–12Scaling Laws、数据工程、预训练、SFT、对齐、推理模型训练与推理工程13–19分布式训练、显存与混合精度、KV Cache、量化、微调、推理引擎、评测Agent 工程20–28提示工程、工具调用、MCP、记忆与 RAG、规划与反思、多智能体、评测与生产化自主研究29–34自主研究的分级、选题、长时程执行、验证复现、报告与责任每张卡片走同一条认知链激活、锚定、推导、升华、追问。每卡 5 条以上带数字的预设追问也可以问卡内的 AI 助教。新术语首次出现紧跟白话定义类比之后必须回到专业名词。如实记录AI 能不能一键生成合格的课程目前不能。机械门禁全绿时我对第 1 到 28 课做了一轮独立盲审仍然查出 186 条缺陷P0 10 条、P1 36 条。其中算术 0 处误算缺陷集中在推理链顺序、提示泄题、跨课口径冲突、正文缺一手来源。结论是脚本能守住有唯一答案的事语义和品味判断仍然需要人。想听你的意见哪张卡片你读完推不出来卡在了哪一步哪个类比帮到了你哪个反而干扰了你发现数字、论文归属、版本错误请到仓库开 Issue写清位置例如第 4 课第 2 张卡片追问 3我会逐条核实。
