最近这半年我被问得最多的问题不是“大模型怎么学”而是“现在转哪个方向能拿到高薪”。大模型风口从 ChatGPT 出现开始吹到现在已经不只是算法圈内部的话题连做后端的、做运维的、甚至做产品的朋友都在问同一个事这个风口到底会带火哪些岗位哪些方向值得押注。我自己的判断是这一轮机会确实存在但它和上一轮 AI 热有本质区别。2017 到 2021 年那会儿AI 岗位的核心是“造模型”做 CV、做 NLP、发论文、刷榜单岗位集中在大厂研究院和头部实验室门槛是名校学历加顶会论文。现在的大模型时代基座模型已经被几家头部公司卷得差不多了真正的增量在“怎么把模型用起来”“怎么把模型训得更便宜”“怎么做模型之上的产品和应用”。岗位结构从“极少数人搞研究”变成了“一大批人搞工程”。这篇文章不聊虚的直接拆解四个我认为最有代表性的方向讲清楚每个方向到底做什么、需要什么能力、薪资大概在什么区间以及最容易踩的坑。1. 风口背后的结构性变化为什么这次和上一轮AI热不一样1.1 从“技术找场景”到“场景找技术”上一轮 AI 热的时候很多团队的做法是先训练一个模型再去找业务场景。比如做一个中文情感分类模型然后问运营部门“你们需不需要”做一个图像识别模型再问安防部门“这个能不能用”。这种模式天然存在问题模型和业务之间隔着一层很多时候模型训完了场景还没找到项目就烂尾了。大模型时代完全反过来了。现在的情况是业务方拿着明确的需求来找技术团队比如“我们的客服知识库要接入大模型”“合同审核要自动提取关键信息”“PDF 报表要能直接问答”。模型本身是现成的要么用开源基座模型要么调用 API真正考验人的是你能不能把模型塞进业务流程里让它稳定、准确、可控地工作。这意味着行业需要的不再是“能训模型的研究员”而是“能把模型落地的工程师”。这个结构性变化直接影响了岗位需求。我在这两年内看到的招聘需求里纯算法研究岗的增量非常有限甚至在部分公司还在缩减因为训练基座模型的成本太高大多数公司根本玩不起。但应用开发、推理优化、数据工程、评测调优这几类岗位的缺口非常大而且这个缺口还在扩大。1.2 人才供给的错配才是高薪的真正原因为什么大模型岗位依然能开出高薪说白了就是供给跟不上。市面上大量候选人的简历写的是“熟悉 Python”“了解 Transformer”“用过 LangChain”但真正能独立完成一个端到端项目的人很少。我见过太多简历写着“精通大模型微调”的候选人聊下来连 LoRA 和全量微调的本质区别都说不清楚更别提怎么设计 SFT 数据。也见过号称“熟悉 RAG”的候选人问他召回率低的时候先调什么支支吾吾答不上来。这就是典型的供需错配——岗位要的是能解决实际问题的人市场上大量的人却还停留在“听说过概念”的阶段。这种错配就是高薪存在的原因也是真正愿意深入底层的人的机会。2. 方向一大模型算法工程师——训练与对齐门槛最高但不是唯一解2.1 这个方向到底在做什么大模型算法工程师是听起来最“正统”的方向也是很多人一听到大模型就会想到的岗位。它内部其实可以拆成几个子方向。预训练方向就是从头训练基座模型。这个方向目前基本被头部大厂和少量创业公司垄断因为一次千亿参数的训练成本动辄几百万甚至上千万数据、算力、工程能力缺一不可。预训练工程师日常做的事情包括清洗和处理海量训练数据、设计 tokenizer、调整学习率与 batch size 的组合、处理训练过程中的 loss 突刺、做模型并行策略的配置等。这个岗位博士居多而且要真正烧过钱、踩过训练崩溃的坑才有竞争力。后训练与对齐方向是目前更现实的选择。大部分公司不会从头训练模型但会基于开源模型做 SFT监督微调、DPO直接偏好优化甚至 RLHF基于人类反馈的强化学习。这个方向的日常工作重心是数据——SFT 数据怎么构造、偏好数据怎么收集、回答怎么打分这些环节直接决定微调后的模型好不好用。这里有个很多新人容易忽略的点微调的代码本身并不难难的是数据质量的控制。评测方向是一个被低估但需求量很大的细分。模型做出来了到底行不行需要一套科学的评测体系。不是简单跑几个 benchmark 就算完事而是要针对业务场景设计评测集、定义指标、做 bad case 分析、推动模型的迭代优化。这个方向不那么“性感”但对业务的价值非常大。2.2 需要的能力栈与常见误区如果你想往这个方向走有几项能力是绕不开的Python 和 PyTorch 是基本功这是所有工作的前提。分布式训练知识至少要理解数据并行、张量并行、流水线并行和 ZeRO 优化之间的关系和适用场景。微调实操经验跑过 LoRA、QLoRA、全量微调能说清楚不同方法的显存占用和效果差异。数据处理能力会写清洗脚本、会做数据增强、能梳理出一条数据生产流水线。英文文献阅读能力因为最新的对齐技术和训练技巧几乎都是英文资料。这里我要专门说一个常见误区很多人以为大模型算法工程师就是“调包侠”只要有显卡就能跑微调。实际上微调跑通只是第一步难的是跑通之后的效果提升。我见过不少团队模型微调完一测效果比基座模型还差然后开始怀疑是不是参数不对其实大概率是训练数据出了问题——指令和回答的配对关系混乱、数据里混入了重复样本、回答风格不一致这些都是新手最容易踩的坑。这个方向的薪资区间应届硕士如果能独立做微调和评测年薪大约在 40 到 70 万之间有实际训练经验的博士或资深工程师会更高。但它的门槛也在这里——学历和实操经历卡得比较严不适合半路出家的人作为第一选择。3. 方向二大模型应用开发工程师——RAG与Agent需求最旺的入口3.1 RAG 应用开发的完整链路与难点如果说哪个方向最值得普通人切入我的答案是大模型应用开发。这个方向的核心工作是把大模型接到真实的业务场景里解决“模型怎么用起来”的问题。其中最关键的两个技术栈一个是 RAG检索增强生成一个是 Agent智能体。RAG 的基本思路很朴素模型不知道的知识你就把资料检索出来喂给它。企业知识库问答就是最典型的场景把公司文档、产品手册、客服话术做成可检索的索引用户提问时先召回相关内容再让模型基于这些内容生成回答。但 RAG 落地远没有听起来那么简单完整的链路至少包括五个环节数据解析PDF、Word、PPT、扫描件不同格式有完全不同的问题。扫描件要 OCRPDF 有复杂的表格结构PPT 的页面信息需要重新组织。我见过不少项目前面模型选得多好最后效果却差问题就出在解析环节——内容提取得七零八落后面的检索再强也没用。文本切分怎么把长文档切成合适的 chunkchunk 太大召回不精准太小又丢失上下文。需要根据文档结构动态调整策略。向量化与召回选 embedding 模型、搭向量库这里有个很容易忽略的点——混合检索往往比纯向量检索效果好。纯向量召回在语义上强但对精确关键词比如设备型号、订单编号效果差加上 BM25 关键词检索做融合才能兼顾两者。重排第一轮召回可能返回 50 条结果真正有用的可能只有 3 条。用一个重排模型把最相关的结果排到最前面能显著提升最终回答质量。生成与引用把召回内容拼进 prompt还要让模型回答时标注引用来源方便用户溯源。工业级 RAG 系统对引用的要求很高答错了要能定位到是哪份文档造成的。整个 RAG 链路每个环节都有优化空间也都是日常工作中真正需要花时间打磨的地方。很多简历上写“熟悉 RAG”的人实际上只是调过 LangChain 的三行代码连重排都没做过——这就是普通应用工程师和资深应用工程师的差距。3.2 Agent 应用与工具调用的工程实现Agent 是大模型应用开发的另一个核心方向。它的本质是从“模型回答问题”升级到“模型完成任务”。一个典型的 Agent 系统包含规划、工具调用、记忆和反思四个模块。规划是让模型把复杂任务拆解成多个步骤工具调用是让模型根据需求选择并调用外部 API记忆分为短期记忆和长期记忆用来保存对话上下文和历史知识反思机制让模型在执行完一个步骤后检查结果是否正确错了就调整策略。实际开发中Agent 比 RAG 更难落地因为它的不可控因素更多。模型可能编造不存在的工具参数可能在多步任务中突然偏离方向可能在一个死循环里反复尝试同一个错误操作。解决这些问题需要在架构层面做约束——用固定的工作流卡住关键节点在工具调用处做严格的参数校验在 Agent 的每个决策点加日志和追踪方便调试和回溯。3.3 为什么说这是最适合转行者的方向这个方向对背景的要求相对宽松因为它更看重工程实现能力而不是研究功底。会写 Python、能理解 HTTP 接口、懂基本的数据库操作再花时间把一个 RAG 项目从数据解析做到重排生成完整跑通基本就具备了敲门砖。薪资方面大模型应用开发工程师在一线城市的普遍区间是 25k 到 50k 每月资深专家或带团队的人会更高。需求量大、入门路径相对清晰、技术迭代快但底层原理稳定这三个特点使它成为这波风口里“性价比”最高的选择。我给想转行的朋友一个建议不要用 LangChain 这类框架作为学习的起点。先自己动手写一个裸的 RAG 流程自己调 API、自己做切分、自己实现召回逻辑搞清楚每一步在做什么然后再去用框架。框架帮你省掉的是时间不是理解。直接上手框架的人很容易在出了问题的时候一头雾水——不知道是框架的 bug还是自己配置的问题。4. 方向三AI Infra工程师——训练推理优化薪资天花板所在4.1 为什么最缺的是懂系统的人如果说应用开发解决的是“怎么用”AI Infra 解决的是“怎么用得高效”。这个方向是目前大模型行业人才缺口最严重、薪资天花板最高的领域之一因为它同时要求懂算法、懂系统、懂硬件。举一个很直观的例子同一张 H 系列显卡有的人部署一个 70B 模型只能跑到每秒生成几十个 token速度慢到没法用有的人能通过各种手段把速度提升好几倍同时把显存占用压到更低。这里的差距不是模型本身而是对推理引擎、算子实现和显存管理的理解深度。大模型时代最缺的恰恰是这样的人。GPU 是稀缺资源公司买卡花的是真金白银工程效率直接转化为成本优势。能把训练效率提升 20%或者在同样显存下塞进更大的模型这个价值是立竿见影的。4.2 核心工作内容与关键技术点AI Infra 的工作大致可以分为训练设施、推理引擎和模型服务三个板块。训练设施层面的工作是搭建和优化集群训练环境包括 GPU 资源调度、分布式训练框架的配置和调优、断点续训机制、checkpoint 的管理和存储。训练千亿模型的时候一次训练跑几周中途哪怕机器故障一次如果没有完善的断点续训机制损失都是以天计算的。推理优化是当前最热门也最缺人的赛道。关键技术包括 KV Cache 管理、PagedAttention 显存优化、连续批处理Continuous Batching、量化INT8、FP8、INT4、投机采样等。每一项技术都能大幅提升推理吞吐或降低延迟。vLLM、TensorRT-LLM、SGLang 这些开源推理框架是绕不开的工具但会用框架只是基础能深入源码层面理解性能瓶颈才是核心竞争力。模型服务层面的工作是支撑模型的线上部署包括多模型的路由分发、流式输出处理、高并发请求的吞吐优化、GPU 资源池的弹性伸缩等。这里考验的是传统后端高并发架构能力恰好是很多资深后端工程师的优势所在。4.3 这个方向的薪资参考与转型路径AI Infra 的薪资通常比同级别的算法岗和应用岗都要高。在我了解的范围内一线城市有经验的推理优化工程师年薪普遍在 60 万以上资深一点的超过百万也不少见而且因为供给极度稀缺议价空间往往很大。这个方向适合两类人转型一是原本做后端开发、对高并发和系统底层有深刻理解的工程师补上模型推理和 GPU 知识后非常有竞争力二是原本做算法但接触过训练框架、对分布式系统感兴趣的人往工程方向深入。这里要特别提醒一个坑很多人以为自己会部署模型就等于会 AI Infra。部署只是最低门槛一个模型的 API 服务跑起来是很容易的理解为什么性能差、用什么手段优化、优化到什么程度这才是核心价值所在。面试时被问到“你的服务 QPS 是多少显存占用多少瓶颈在哪里”答不上来就露馅了。5. 方向四多模态与AI产品化——含数据工程与AI产品经理的增量空间5.1 多模态算法从文本到图像、视频、语音大模型的发展方向不只有文本。多模态大模型能同时理解文字、图像、音频和视频这是当前非常确定的趋势。GPT-4V 级别的能力已经在向图像理解延伸视频理解和生成也在快速演进。多模态算法工程师的工作内容包括视觉编码器与语言模型的融合、图文数据的对齐训练、视频帧序列的高效处理、音频与文本的跨模态转换等。这个方向对算法功底的要求比较高需要同时理解视觉模型和语言模型但正因为门槛高竞争反而比纯文本方向缓和一些。有 CV 背景的朋友往这里转比直接转纯 NLP 更顺畅。除了算法本身多模态数据的构建也是一门学问——图文对数据的清洗、视频片段的有效标注、跨模态训练数据的配比这些直接决定多模态模型的效果上限。数据在这里不是边角料而是核心竞争力之一。5.2 数据工程被严重低估的高性价比方向单独说一下数据工程因为它是这波大模型浪潮里性价比最高的方向之一。大模型的效果很大程度上由数据决定这话一点都不夸张。基座模型要的海量语料需要清洗和去重SFT 需要高质量指令数据对齐需要人类偏好数据评测需要标注数据集。所有这些工作都需要大量的数据工程师和数据标注管理人才。和数据标注流水线的操作工不同这里说的数据工程师是设计数据流程的人——数据从哪来、怎么解析、怎么清洗、怎么过滤低质量内容、怎么配比不同来源的数据、怎么构建指令数据的模板。这项工作需要细心、耐心和对模型训练的敏感性技术门槛不像算法那么高但对业务的价值非常大。我认识的几位优秀的数据工程师薪资区间在 30k 到 60k 每月而且从来不愁找下家。很多团队对数据人才的重视程度不够这反而是机会——当别人都在卷模型结构的时候你能把数据做到极致项目效果自然就体现出来了。5.3 AI产品经理懂模型边界的产品决策者最后提一个非技术岗的新机会——AI 产品经理。传统产品经理的逻辑是定义功能、画原型、推动开发实现但 AI 产品经理面对的是完全不同的挑战。你得理解大模型的能力边界知道什么需求能实现、什么需求现阶段做不到你得懂 Prompt 设计和评测方法因为 AI 产品不是写死交互流程而是要把“模型输出”变成“可控的产品体验”你还得设计兜底策略模型回答不可靠的时候产品怎么降级、怎么提示用户。这个岗位适合有技术背景但对纯编码兴趣不大的朋友也适合原本做产品经理、愿意系统学习大模型原理的人转行。它的薪资空间和优秀的技术岗相当因为能同时懂技术和产品的复合人才太少了。6. 薪酬地图与转行路径不同背景的人应该怎么切6.1 各方向薪酬水平与需求热度对照把上面四个方向放在一张表里看会更清楚它们各自的位置。方向薪资区间参考月薪一线城市需求热度技术门槛适合人群大模型算法训练/对齐/评测35k-80k中高头部集中高算法背景、硕博学历者大模型应用开发RAG/Agent25k-50k极高需求最旺中等后端/前端/全栈转行者友好AI Infra推理优化/平台40k-100k极高供给稀缺很高后端高并发/C/系统背景多模态/数据工程/产品30k-60k高且增长快中高CV/NLP背景产品或数据分析转岗需要强调的是薪资区间仅供参考具体到个人会因为城市、公司、面试表现和个人能力有较大浮动。但大方向是明确的需求旺的方向薪资抗跌供给稀缺的方向薪资溢价高。6.2 四类典型背景的推荐路径不同背景的人切入大模型行业的路径应该不一样没必要都去挤算法那条路。应届毕业生特别是硕士可以分两种情况如果学校和论文背景都很强可以冲算法方向如果背景一般优先考虑应用开发和数据工程这两个方向对实操能力的认可度大于学历而且成长速度更快。后端工程师尤其是做过高并发、熟悉分布式系统的人两条路线都可以走一条是转 AI Infra直接吃老本行的红利另一条是转应用开发重点补 RAG 和 Agent 相关的知识。从市场需求来看后端背景转 AI Infra 的竞争更小、溢价更高。传统算法工程师做 CV 或 NLP 的尽量往多模态和模型后训练方向靠。你的算法功底不会浪费但要补大模型特有的知识比如 SFT 数据构建、DPO 训练、视觉指令数据构造等。测试、运维和产品背景的人也有进入的路径测试转模型评测非常自然你现在就能开始学评测集设计和 bad case 分析运维转 MLOps 和模型部署是有利的位置产品经理就系统补大模型能力边界和评测方法走 AI 产品经理路线。6.3 一个必须纠正的认知最后想泼一点冷水。大模型确实带来了高薪机会但不是所有挂着“AI”名头的岗位都值得去也不是所有人都应该为了高薪硬转。我看到太多人犯同一个错误花几百块钱买一个“大模型培训课”学了半个月 Prompt 工程就觉得自己可以拿高薪了。不是这样的。这个行业真正愿意付高薪的岗位没有一个是可以速成的。RAG 你要从数据解析一点点啃到重排优化Agent 你要在无数个失败的工具调用里摸清边界Infra 你要对显存、算子、调度有系统的理解。任何想靠“捷径”进来的人最后都会被面试官两个问题打回原形。我的建议很简单选定一个方向花三到六个月时间完整做一个端到端的项目把每一步的原理和坑都搞清楚。这个项目可以是基于开源模型做的一个企业内部知识库问答系统也可以是一个能自动完成多步任务的 Agent Demo甚至可以是一次把某个开源模型在单卡上的推理速度优化 30% 的记录。当你真的把一个东西从零做到能跑、能用、能说清楚为什么这么设计的时候你不需要去追风口风口会来找你。我在带人做项目的过程中体会到大模型时代最值钱的不是“知道很多概念”而是“踩过足够多的坑并知道怎么解决”。同样是一次显存溢出有人只能上网搜教程有人能根据日志判断是序列长度问题还是注意力计算的中间变量过大进而调整对应的参数和策略——后者才是工程师的真实价值。
