1. 岗位全景先在脑内装一张“大模型行业地图”先别急着看岗位清单我建议你花10分钟把整个大模型行业的运转逻辑想明白。很多人只看到网上铺天盖地的“大模型算法工程师月薪X万”的帖子却不知道这些岗位其实分布在一整条产业链上相互之间的技术栈差异非常大根本不是“会写Python就能干”的简单关系。一条完整的大模型产品链路大致可以分成四段数据工程、模型训练与对齐、推理部署、应用开发与评测。如果把大模型比作一个人数据工程是给这个人喂饭的训练与对齐是教他说话办事的推理部署是让他的大脑在每秒能处理多少个请求的压力下不崩溃的应用开发则是拿着这个大脑去接各种业务需求的人。九个岗位基本都落在这条链路的不同环节上。对于小白程序员来说最大的优势不是现在会多少框架而是你有一张白纸可以直接选择最适合自己性格和基础的切入点。有些人天生喜欢跟数据打交道那算法工程师的预训练岗位可能适合你有些人喜欢写业务代码、做系统集成那RAG应用开发工程师或Agent开发工程师更对口有些人喜欢刨根问底追求极致性能推理优化工程师是条不错的路。最怕的是你什么都不了解看到哪个岗位火就往哪挤最后发现代码写了一年还在处理标注数据的脏活心态直接崩了。我建议你把这篇文章当作一份地图而不是一份招聘启事先建立全局坐标系再找到自己的坐标点。下面这张表是我自己对目前行业主流岗位的整理你直接收藏就好岗位方向所处链路核心技术关键词适合的性格/背景大模型算法工程师预训练训练分布式训练、数据配比、优化器、loss设计耐心强、爱看论文、数学底子好大模型微调工程师训练/后训练SFT、LoRA、PEFT、数据构造动手能力强、喜欢调参实验RLHF/对齐工程师后训练Reward Model、DPO、PPO、RLHF理论功底深、能啃数学推导LLM推理优化工程师推理部署vLLM、CUDA、量化、批处理调度性能敏感、懂系统底层MLOps/平台工程师支撑K8s、GPU调度、CI/CD、模型仓库全栈思维、喜欢搭系统RAG应用开发工程师应用向量库、Embedding、重排序、Agent工具调用业务感强、爱写接口和业务逻辑Agent开发工程师应用多Agent框架、规划、反思、工具调用喜欢折腾新框架、擅长业务编排提示词工程师应用Prompt设计、few-shot、结构化输出文案能力强、逻辑清晰评测与数据工程师全链路评测集构建、自动化评测、数据清洗细致、有质量意识、爱找问题请注意这九类岗位不是完全独立的很多公司人少事多一个岗位要兼着两三个方向的活儿。但这种兼着干的经历对小白来说反而是好事可以让你快速搞明白整个系统怎么串起来的。2. 九大岗位逐个拆解每个岗位到底在做什么2.1 造模型的人大模型算法工程师、微调工程师、对齐工程师先说最受关注的算法工程师。很多人以为做算法就是天天设计新模型实际上预训练算法工程师干的活比这枯燥得多核心是三大块数据配比、训练稳定性、loss收敛分析。数据配比是指你要决定一个几十T的语料库里代码、百科、书籍、对话各占多少比例这个比例直接影响模型在各类任务上的表现。训练稳定性则是当loss突然飙升或者出现loss发散时你要快速判断是数据污染、学习率过大还是分布式通信出了问题。一个合格的预训练工程师大概率不是那种天天说着“我改进了Attention”的人而是能熬夜盯训练曲线、能从梯度范数分布里看出问题的人。微调工程师是目前需求量最大的入口级岗位也是小白最容易切入的方向。主流的微调已经很少用全量SFT了因为成本太高大家默认用LoRA这类参数高效微调方法只需要训练一小部分参数就能让模型学会新任务或者新风格。这个岗位的核心工作包括把业务数据清洗成指令格式、设计合适的微调参数秩、学习率、批次大小、跑实验对比不同基座模型的效果、防止灾难性遗忘也就是微调后模型把原本的通用能力忘了。我见过很多新人一上来就用默认参数微调结果效果一言难尽其实就是没理解LoRA的秩决定了模型能学到多少新知识秩太小学不会秩太大容易破坏原有能力。对齐工程师是算法方向的进阶选择技术门槛比较高日常围绕RLHF、DPO这类技术展开。RLHF的全称是基于人类反馈的强化学习简单理解是训练一个奖励模型给模型的回答打分再让模型根据这个分数调整自己的输出偏好。DPO则是后来出现的一种简化方案不需要单独训练奖励模型直接通过偏好对数据进行优化。说句实在话这个岗位不是给刚转行的人准备的它需要比较扎实的强化学习基础但如果你的数理功底过硬把它当作目标方向也完全值得因为市场上真正能做好对齐的人才相当稀缺。2.2 让模型跑起来的人推理优化工程师与MLOps平台工程师模型训练完只是一个静态产物真正让它在产品里被千万用户使用是困难得多的一件事。推理优化工程师干的事通俗讲就是“给模型减肥和提速”。你肯定遇到过手机App里的AI助手回复很慢的情况那一方面是网络和推理服务端的延迟另一方面就是推理优化的功夫没有做到位。这个岗位的核心技术点集中在几个方向一是量化就是把模型参数从FP1616位浮点数压到INT88位整数甚至INT44位整数让模型体积变小、计算变快但精度会有一定损失难点在于怎么把损失降到最低二是推理引擎的选型和调优业界有一些开源的推理加速框架它们用到了连续批处理、PageAttention一种按页管理显存的技术、KV Cache缓存复用等技巧你需要根据实际业务吞吐量做压测和配置三是部署方案的制定单张显卡能塞下多大的模型需要多少并发用户可接受的时延是多少这些指标都要一口清。MLOps平台工程师则是另一批修路架桥的人。他们要搭建的是一套管理模型全生命周期的基础设施GPU资源的分配与调度、训练任务的编排、模型的版本管理、线上推理服务的监控告警、模型上线和回滚的自动化流水线。一句话概括算法工程师很忙而MLOps工程师负责让算法工程师不忙到猝死。这个岗位对全栈能力有要求需要懂Linux、容器化技术、集群调度、CI/CD甚至还要懂一点网络。对于后端开发经验丰富的程序员来说切入这个岗位的难度相对较小而且它不会像算法一样频繁被大模型技术迭代冲击是一个越老越吃香的稳定方向。2.3 让模型被用起来的人RAG、Agent、提示词与评测数据这四类岗位是近两年涌进来的小白最多的地方原因很简单对数学和算法功底要求不高更依赖工程能力和业务理解。RAG应用开发工程师的核心工作是解决大模型“不知道”和“乱编”的问题。RAG全称是检索增强生成思路很直接用户在提问时先从企业私有的知识库里检索出相关文档片段把这些片段和用户问题拼在一起发给大模型让大模型基于这些素材作答从而让回答更准确、更可控。岗位需要掌握的技术链路包括文档解析与切分、Embedding模型选型、向量数据库使用、查询过程中的重排序以及如何评估检索效果。这个方向的项目经验积累非常有用因为几乎每一家想做企业知识库的公司都需要这套方案市场空间很大。Agent开发工程师被很多人称为下一个风口。Agent可以理解为一个“有脑子的机器人”它不只是回答你的问题而是能根据你的指令自己规划步骤、调用外部工具、检查结果。比如你说“帮我订一杯咖啡”Agent可能需要调用外卖平台的接口先确定你的地址再选择合适的店铺最后下单然后告诉你预计送达时间。开发这个岗位的人要熟练使用各类Agent开发框架理解工具调用、任务规划、自我反思、多Agent协同这些概念还得会设计一套可控的“防呆机制”防止Agent在执行过程中跑偏。这个方向节奏很快新框架和新理念层出不穷适合喜欢追新事物的程序员。提示词工程师是争议最大的一个岗位。有人觉得写Prompt谁不会实际上这行的门槛在于“把模糊需求转化成为精确指令”的能力。你需要懂得怎么写少样本示例、怎么设计结构化输出、怎么让模型在特定条件下不越权、怎么通过叠加提示词防御恶意注入。市面上有些应用看起来功能很傻换一个好一点的提示词方案就直接变聪明这就是这个岗位的价值。不过我要泼一盆冷水提示词工程师很难作为一个独立岗位长期存在因为模型能力在持续变强对人工提示词的依赖会越来越少建议你把它当作应用开发的辅助技能而不是唯一依赖。评测与数据工程师是大模型行业容易被忽视却异常重要的岗位。没有评测集你就不知道模型更新之后到底有没有变好没有好的数据清洗再好的算法也训练不出好模型。评测工程师要设计全面的人工评测和自动化评测方案包括编写测试题目、制定评分标准、搭建评测流程、分析模型在不同任务上的能力短板。数据工程师则要负责语料采集、去重、去毒、格式转换、质量抽检还得遵守版权和数据合规方面的要求。这个岗位看起来偏“杂活”但它能让你最早最全面地理解一个模型的真实能力边界对后续转型很有帮助。3. 小白入行路线图三个月怎么从零跑通很多人问的第一个问题是“我现在只会基础Python能不能直接学大模型”我的回答是能但你要分清主次。大模型方向的知识体系非常庞杂如果一把抓三个月过去你会发现自己什么都了解一点、什么都不精通。我给出一套自己验证过的三个月路线你可以根据目标岗位做侧重调整但整体的顺序不建议打乱。第一阶段第1-4周的目标是“跑通一条最小链路”。先去了解大模型的基座原理重点理解Transformer结构、注意力机制、Token、上下文窗口这些基础概念。这些知识不需要你从零去推数学公式但要能在面试时用自己的话把“大模型是怎么生成文字的”讲明白。然后就是动手跑代码找一台有显卡的机器实在没有就用云GPU挑一个开源小规模基座模型用它跑通一次文本生成和一次LoRA微调。这一步很关键因为很多人对模型训练的印象停留在背诵概念实际跑一次之后你会发现显存溢出、依赖安装冲突、数据格式错误这些真实问题这些才是工程经验的来源。第二阶段第5-8周的目标是“熟悉两条应用链路”。一条是RAG链路自己动手做一个简单的本地知识库问答系统导入一份PDF文档把它切成文本块用向量模型转成向量存进向量数据库然后实现一个“检索拼接生成”的问答接口。另一条是Agent链路学会使用一个主流的Agent开发框架让大模型学会调用一个你自定义的工具比如查天气的API或计算器。这两个项目做完你已经具备了应用类岗位的面试谈资能说清楚整体架构和自己的排查思路。第三阶段第9-12周的目标是“深入一个方向”。这时候你已经有自己的判断了如果你在前面做RAG的时候觉得检索调优很有意思那下一步深挖Embedding模型选型和重排序如果你觉得让Agent调用工具的过程很刺激那下一步研究工具调用稳定性和复杂任务规划如果你觉得对大模型本身的内部机制和训练更感兴趣那就可以开始啃分布式训练和微调参数调优。记住到第三阶段一定要做减法只选一个方向纵深下去面试官最反感的就是那种简历上写着“熟悉大模型”但一道深入问题都答不上来的候选人。关于学习资料我个人的建议是少看短视频平台上的碎片化科普多读一手技术文档和论文。尤其是那些宣称“三分钟搞懂大模型”的内容基本只能帮你混个脸熟真到写代码调bug时一点用都没有。优先读模型的技术报告、开源框架的官方文档、行业头部技术团队的工程博客他们的生产实践比教科书新得多也比二手解读准得多。4. 常见问题排查与求职实操4.1 简历上没有项目经验怎么办这是小白提问最多的问题我给的答案很直接项目经验不是只有公司项目才算自主完成的完整Demo同样有价值。关键在于“完整”两个字不是说你跟着教程抄了一遍就算项目而是要能讲清楚动机、架构、数据来源、评测结果和踩过的坑。我给你三个可以快速上手的自建项目方向。方向一是“个性化论文精读助手”做一个能上传PDF并基于文档内容问答的系统重点展示你的RAG工程能力包括文档切分策略的对比结果、检索质量的评测数据、处理长文档时的优化方案。方向二是“业务报表自动生成工具”让大模型连接数据查询接口根据用户输入的自然语言生成报表这块可以突出你的Agent工具调用和结构化输出设计能力。方向三是“本地离线大模型助手”在消费级显卡上部署一个小模型通过量化和流式输出优化交互体验可以展示你的部署和优化能力。做项目时有个常见误区遇到bug就去网上找现成答案把问题绕过然后觉得自己做完了。真正的项目经验来自你花几个小时定位到一个问题根因的那种时刻。建议你有意识地记录实践笔记把遇到的问题、排查过程、最终解法都写下来这些素材之后可以直接变成博客文章或面试案例一鱼两吃。4.2 面试常考问题速查按岗位方向分类不同岗位的面试重点差异很大我按方向整理了一份高频问题清单你可以拿来自测方向高频问题大模型基础介绍一下Transformer结构注意力机制为什么要缩放Token是什么大模型为什么需要预训练和微调两个阶段介绍你熟悉的一种微调方法推理部署什么是KV Cache它解决了什么问题模型量化有哪些常见方法如何提高单GPU的并发吞吐能力线上推理服务响应变慢该如何排查RAG应用RAG的完整流程是什么向量切分需要考虑哪些因素怎么评估检索质量如何处理知识库中的数据更新问题Agent应用Agent和普通对话机器人的区别是什么工具调用失败后如何设计重试机制多Agent协作时如何避免任务冲突微调与对齐LoRA的优势和局限是什么什么是灾难性遗忘有哪些缓解办法DPO和RLHF的差别是什么数据质量如何把控MLOps模型上线的基本流程是怎样的GPU资源不足时如何做任务优先级调度如何监控线上模型的推理效果退化4.3 行业现状与避坑建议别被高薪迷了眼大模型行业的薪资确实比传统软件开发要高一些尤其是一线城市的算法类岗位但这份高薪不是白来的。很多算法岗位实际工作时长非常长训练任务半夜出问题你就得爬起来处理AI应用开发岗位迭代极快可能这周用的框架下周就出了替代品你需要保持长期学习状态。小白入行前建议做好心理建设这份工作前期需要投入的精力远大于普通开发岗。避坑方面有三条经验值得记住。第一不要只学工具不学原理比如你会用某个框架不代表你理解背后的机制面试和实操中一旦框架出了问题你就会手足无措。第二不要盲目追逐热点今天看到RAG火就学RAG明天看到Agent火就转Agent这样永远没有深度积累。第三不要忽略软能力大模型项目高度依赖团队协作算法工程师要和业务方反复确认需求边界应用工程师要向非技术人员解释清楚模型能力上限沟通表达和需求拆解能力会直接影响你在团队中的价值。我个人见过太多技术不错但沟通能力堪忧的人最后只能做执行型工作很难往上走。5. 写在最后给准备入行的你一点实在建议做了这么多年相关方向我最大的体会是大模型这个行业不缺聪明人缺的是能沉下心把一件事做到位的人。小白入行最忌讳的就是什么都想抓最后简历写了一大堆“熟悉”面试深挖两句就露馅。我的建议很简单选一个方向花三个月把基础链路跑通再花三个月把一个项目做到能展示、能讲透比你在十门课程里各学一遍前几章要管用得多。另外学习过程中一定要逼自己多看一手资料而不是二手搬运。我见过不少新人入行半年还在靠二手博文理解概念写出来的代码风格和思维方式高度同质化遇到非标准问题就束手无策。要学会自己看官方文档、自己读源码、自己复现实验结果这几种能力是这个行业最值钱的本事。最后分享一个我个人用了几年的小习惯每周末抽半小时用一篇博客或一条推文的形式记录本周踩过的坑和学到的技术判断。这不仅能帮你巩固理解积累到一定量还能变成你的行业影响力资产。大模型行业的迭代速度决定了终身学习不是口号而是日常早点掌握适合自己的学习方法你才能在这个赛道里长期待下去。祝顺利。
