【免费下载链接】ai-engineer-notebooksHands-on, framework-free Colab notebooks for the AI Engineer / Forward Deployed Engineer (FDE) skill set — model APIs, structured output, tool calling, RAG, evals-as-the-spine, agents (loop from scratch, tool design, guardrails, MCP, Skills), fine-tuning vs LoRA, prompt-injection/security, LLMOps, and customer craft. Runs on the free Groq API.项目地址https://gitcode.com/gh_mirrors/ai/ai-engineer-notebooks点击查看免费下载在 ai-engineer-notebooks 中Capstone 毕业设计是整个课程的最后一关把一个真实用户的问题做成一个可部署、可评测、写进简历的 LLM 项目。本文完整拆解 Capstone 的硬性要求、现代技术栈选型、Agile 流程模拟和面试准备清单帮新手用一套实习级叙事快速做出能拿给面试官看链接的简历级 LLM 项目。为什么你的 LLM 项目不能只是一个 Notebook很多人把毕设做成一个 Notebook但在筛选中这会暴露周末黑客的信号而不是生产级判断力。仓库里 CAPSTONE.md 开宗明义The notebooks teach the skills; this project is what goes on your resume.核心原则把它建成一个真实的代码仓库部署上线、可以链接能经受 15 分钟敌意提问。先照着看一遍四个端到端案例研究在动手之前建议先读并运行案例研究 01-customer-support-assistant.ipynb它演示了一个客服助手从模糊需求到部署上线、再到生产环境调试的完整弧线。12-case-studies-and-capstone/README.md 中列出了四个案例案例教会你的核心判断客服助手把模糊需求做成部署评测系统再在生产环境诊断质量回退合同抽取Pipeline vs Agent用准确率Token 成本证明步骤已知时Pipeline 胜过 Agent红队鲁棒性基准用 attacker→target→judge 循环测量模型鲁棒性深度伪造检测是否假图与是否违规需要不同的检测工具⭐ 关键洞察面试和真实工作从不给你实现一个 RAG 管线而是给你我们的客服团队快淹死了帮忙。这两句话之间的差距就是这份工作。Capstone 的五个不可妥协项Non-negotiables这是简历级 LLM 项目与玩具 Demo 的分水岭逐项对照检查真实数据—— 一份混乱的语料或工作流而不是教科书级数据集可参考 data/README.md 中的共享语料设计思路一个不是你的真实用户—— 朋友的公司、团队、开源社区。面试官会追问你如何把对方模糊的需求翻译成系统一个 Serving 组件—— API 或应用已部署、可链接且你能在负载下推理其行为对应 09-serving-inference/ 与 10-ml-system-design/ 章节一套评测方法—— 书面评测报告随时间跟踪它能跑不算评测对应 04-evals/ 章节一份写作说明—— 用户问题、系统、评测结果、下一步计划现代技术栈选型从手写循环到框架教学 Notebook 刻意无框架——你自己写 Agent 循环、RAG 和评测理解每个库在做什么。Capstone 正是反转的时刻组装真实技术栈并准备好解释每个工具它做什么、你为什么选它。这个先手写、再上框架的弧线本身就是一个强面试答案。按层选型按需取用不必全上层选用对应教学章节RAG / 编排LangChain、LlamaIndex 或 LangGraph03-rag/、05-agents/Serving / 推理vLLM 或 TGI自托管起步用托管 API09-serving-inference/01-serving-frameworks.ipynb推理性能continuous batching、量化、KV-cache 估算09-serving-inference/02-inference-performance.ipynb微调如果值得通过 PEFT 做 LoRA / QLoRA06-adaptation/01-fine-tune-vs-rag-vs-prompt.ipynb实验跟踪与模型注册MLflow跟踪每次评测运行注册上线模型08-operations/03-experiment-tracking-and-registry.ipynb可观测性tracing、安全日志、成本/延迟指标08-operations/01-observability-and-llmops.ipynb你不是算法方向的候选人没人期待你发明新模型。招聘信号是AI 分布式系统 / 应用工程把现代技术栈接进一个已部署、已评测、可运维的系统并有意识地做成本/延迟/质量权衡。三种高胜率项目形态 选一个你最容易拿到真实数据的形态基于真实混乱语料的 RAG—— API 后面提供服务附带 MLflow 跟踪的评测报告展示你测量了什么、因为测量改了什么自动化真实多步工作流的 Agent—— 带护栏和成本预算用 LangGraph 编排端到端可追踪当前工作中的内部 AI 工具—— 采纳率数字比架构图更有说服力用系统思维的数字说话QPS、成本与性能这一层决定了你是调了个 API还是拥有 Serving 层。在写作说明中放一个简短的系统设计小节容量估算Sizing—— 沿用 10-ml-system-design/01-designing-an-inference-service.ipynb 的餐巾纸算法预期 QPS、每请求 Token 数因此需要多少 GPU或托管端点成本以及 10 倍流量时哪里会先崩性能—— 你实际拉动的一个性能杆及其测量效果batching 吞吐、量化的质量/延迟权衡、Prompt 缓存必须绑定一个数字可靠性与成本—— 重试/超时/降级08-operations/02-reliability-and-fallbacks.ipynb以及月成本和你会调哪个旋钮来削减它面试官会追数字。约 40 峰值 QPS、70% 利用率下约 2 张 GPU、月成本约 $3k量化后砍半是及格答案部署在云上不是。Agile 流程与角色分工让项目读起来像实习经历这段经历要在简历上读起来是实习级项目意味着你需要一个工作过程的故事而不只是交付物。面试官会问你的角色是什么团队怎么协作需求变更怎么处理双周 Sprint 节奏用两周一个 SprintBacklog、Sprint 计划会、每日站会节奏、回顾会工作以 Ticket 形式跟踪Issues/Projects 即可即使是单人项目也按 Sprint 叙述——这正是面试中讨论工作的方式角色表即使一人分饰多角也要知道每个角色拥有什么角色负责在本项目中产品经理 (PM)用户问题、优先级、验收标准范围界定文档11-customer-craft/01-scoping-and-discovery.ipynb好的定义技术负责人 / EM架构、任务拆分、评审系统设计10把工作拆成 TicketAI/ML 工程师Prompt、RAG、Agent、微调、评测01–06 的大部分评测 Harness平台 / MLOpsServing、部署、CI、跟踪、注册08–09MLflow 与部署SRE / On-call可靠性、监控、事件响应08/02RunbookQA / 评测负责人Golden set、回归门禁、放行签核02、04现在能上线吗选一个你要写在简历上认领的角色通常是 AI/ML Engineer把它做深并说清你如何与其他角色交接、依赖他们——这就是协作问题的答案。 推荐 Mentor 角色扮演让 Mentor 扮演 PM/利益相关方给你模糊需求、Sprint 中途改需求、在 Demo 时质疑、在模拟评审中追问为什么这个架构。排练过程问题和排练技术问题同样重要——大多数候选人能描述系统却在团队是怎么做决定的上卡壳。简历上的写法流程 影响CAPSTONE.md 给出了可直接套用的模板句式为 [真实用户] 构建并部署了一个基于 [真实语料] 的 RAG 助手在双周 Sprint 中负责 AI/评测层用 vLLM 提供服务配合 MLflow 跟踪的评测门禁通过检索调优和量化把回答成本降低 40%并用 50 条 Golden set 验证。结构是范围 部署事实 Sprint 过程 技术栈 一个数字化的改进。上线前检查清单面试准备清单Interview Readiness Check上线前逐行走一遍 docs/best-practices-and-anti-patterns.md确认你的项目落在每一行的 ✅ 一侧。它是构建这个时要注意什么这道面试题的标准答案表。最终确保你能冷启动回答以下六轮问题面试轮次问题回看章节范围界定你如何把用户模糊的需求变成这个系统11技术深挖讲讲你的检索/Agent 循环/评测以及为什么这样选03–06系统设计如何扩展到 10 万用户09–10运维你怎么知道它在线上还在正常工作08-operations/安全用户粘贴 Prompt 注入时发生什么07-security/01-prompt-injection-and-trust.ipynb协作 / 流程你的角色是什么团队如何交付的12-case-studies-and-capstone/CAPSTONE.md任何一个答案不扎实对应章节的 Notebook 就是你要回去的地方。学习路径速查从 00 到 12 的路线按顺序完成即可每个 Notebook 都自带依赖安装与练习00–01环境配置00-setup/00-environment.ipynb与模型 API 基础Prompting、结构化输出、Tool Calling02–04评测是主干——先测量再调优的习惯在这里养成03RAG 五连是什么、嵌入检索、混合重排、分块、失败诊断05Agent 六连从零手写循环、工具设计、护栏与预算、MCP、Skills、Harness 工程06–07LoRA 微调的决策边界、Prompt 注入与信任边界08–10LLMOps、可靠性与 MLflow、Serving 框架、推理性能、系统设计11–12客户工程Scoping与 Capstone 毕业设计最后提醒所有 Notebook 都跑在免费的 Groq API 上无需信用卡LoRA 与自托管 Serving 两个 Groq 无法覆盖的主题提供概念先行 可选 Colab-GPU 附录。学习是免费的而你的 Capstone 应该读起来像一份实习经历——这就是 ai-engineer-notebooks 从第 00 章到第 12 章为你铺好的路。赞分享【免费下载链接】ai-engineer-notebooksHands-on, framework-free Colab notebooks for the AI Engineer / Forward Deployed Engineer (FDE) skill set — model APIs, structured output, tool calling, RAG, evals-as-the-spine, agents (loop from scratch, tool design, guardrails, MCP, Skills), fine-tuning vs LoRA, prompt-injection/security, LLMOps, and customer craft. Runs on the free Groq API.项目地址https://gitcode.com/gh_mirrors/ai/ai-engineer-notebooks点击查看免费下载相关推荐Capstone毕业大项目构建生产级Multi-LLM多租户平台Ultimate AI Engineer Roadmap 2026终章实战Capstone毕业大项目构建生产级Multi LLM多租户平台Ultimate AI Engineer Roadmap 2026终章实战 Ultimat终极指南如何使用开源简历设计生成器快速打造专业简历终极指南如何使用开源简历设计生成器快速打造专业简历 想要制作一份令人印象深刻的专业简历却苦于没有设计经验resume design 是一款完全开源的免费简TrenTorch Benchmarking与Capstone毕业项目如何给你的自建ML框架打性能分并提交完整指南TrenTorch Benchmarking与Capstone毕业项目如何给你的自建ML框架打性能分并提交完整指南 TrenTorch 是一个从第一性原上一篇Juggler的LLM事务追溯详解看清模型真正收到的系统提示词、工具定义和Token消耗下一篇不确定性规划方法地图如何看懂 Robotics Tutorial 的鲁棒MPC、机会约束与POMDP全景创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
