1. 从零开始学AI一个普通人的真实入门路线图这两年“从零开始学AI”这句话被说烂了但真正动手的人会发现网上大部分教程要么一上来就甩公式要么直接让你跑一个需要八张显卡的模型中间那段“我到底该先干什么”的空白几乎没人讲清楚。我自己是从一个连Python环境都配不利索的状态起步的中间踩过的坑、绕过的弯路、买过的没用的课加起来能写一本小册子。这篇文章就是把我走过的这条路重新梳理一遍去掉那些花里胡哨的包装留下真正能让你从零动起来的东西。先说清楚这篇文章适合谁。如果你是完全零基础连“模型”和“训练”这两个词的区别都说不清楚那这篇就是写给你的。如果你已经会调API、能跑通几个开源项目但总觉得知识是散的、拼不成体系那这篇也能帮你把框架搭起来。我不会承诺你读完就能进大厂做算法工程师那不现实但我可以保证你读完并且跟着动手之后能清楚地知道自己下一步该学什么、为什么学、怎么验证自己学会了。核心关键词就一个AI。但这个词太大了大到几乎等于没说。所以我在后面会把AI拆成几个具体的、可操作的模块——大模型基础理论、AI编程、AI Agent搭建、模型部署、工程实践。每一个模块我都会告诉你它解决什么问题、需要什么前置知识、大概花多长时间、用什么工具、怎么判断自己是否真的掌握了。这些判断标准不是拍脑袋想的是我自己学的时候用来检验自己的方法实测有效。另外说一句这篇文章里提到的所有工具和平台都是我实际用过或者身边朋友长期在用的没有云评测。有些工具可能不是最火的但胜在稳定、文档全、社区活跃对新手友好。我不会推荐那些需要特殊网络环境才能用的东西所有工具在国内正常网络下都能访问这一点你可以放心。2. 学AI之前必须想清楚的三个问题2.1 你学AI到底是为了什么这个问题听起来很虚但它直接决定了你后面所有的时间和精力怎么分配。我见过太多人上来就说“我要学AI”然后买了几千块的课看了三节就再也没打开过。原因很简单目标不具体动力就撑不过前两周的枯燥期。学AI的目标大致可以分成四类每一类对应的学习路径完全不同。第一类是用AI提效比如你是做文案的、做设计的、做数据分析的你想用AI工具帮你更快地完成日常工作。这类目标不需要你懂模型原理你需要的是熟练使用现成的AI产品外加一点提示词技巧。第二类是用AI编程你想把AI能力集成到自己的项目里比如做一个智能客服、一个文档问答系统。这类目标需要你会一门编程语言理解API调用、向量数据库、检索增强生成这些概念。第三类是训练和微调模型你想让模型学会你所在领域的专业知识或者你想研究模型本身的行为。这类目标需要你有数学基础、有显卡资源、有耐心读论文。第四类是做AI基础设施比如模型部署、推理优化、Agent框架开发。这类目标需要你有比较扎实的工程能力熟悉Linux、容器、分布式系统。我建议你在开始之前拿张纸写下你的目标越具体越好。不要写“我想学AI”要写“我想在三个月内做一个能回答我公司产品问题的问答机器人”或者“我想用AI帮我自动整理每周的会议纪要”。目标越具体你越容易判断自己有没有进步也越容易在遇到困难的时候坚持下去。2.2 你需要投入多少时间和金钱时间方面如果你的目标是第一类用AI提效每天花半小时到一小时两周就能上手。第二类用AI编程每天两小时三个月能做出一个像样的项目。第三类训练微调每天三小时以上半年起步。第四类基础设施那就不是业余时间能搞定的了基本需要全职投入。金钱方面最大的开销是显卡。如果你只是学第二类用云GPU按小时租就行一小时几块钱到几十块钱不等一个月下来几百块足够。如果你想学第三类要么租云GPU要么买一张二手显卡。我的建议是先用云GPU等你确定自己真的能坚持下去了再考虑买硬件。另外有些在线课程和书籍值得花钱但不要一上来就买最贵的先找免费的资源试水确定自己需要系统学习之后再付费。2.3 数学和编程基础到底要多少这是被问得最多的问题。我的答案是看你学到什么程度。如果你只是用AI工具和调API高中数学足够编程方面会一点Python基础就行。如果你想理解大模型的基本原理那需要线性代数、概率论、微积分的基础但不需要学到数学系的程度知道矩阵乘法、梯度、概率分布这些概念就够了。如果你想自己训练模型那数学要求会高一些但也不是不可逾越很多概念可以在实践中慢慢补。编程方面Python是必须的。如果你完全不会Python我建议先花两周时间把基础语法过一遍能写简单的函数和类就行。不需要学到能写大型项目的程度因为AI领域的代码大部分是调库和拼装真正需要你从零写的逻辑并不多。但有一件事你必须会看懂报错信息并且知道怎么搜索解决方案。这个能力比任何语法知识都重要。3. 大模型基础理论不用啃论文也能搞懂的核心概念3.1 从“下一个词预测”理解大模型在做什么大模型听起来很玄但它的核心任务简单到可以用一句话概括根据前面的词预测下一个词最可能是什么。你给它“今天天气真”它预测下一个词可能是“好”也可能是“差”它会给每个可能的词一个概率然后选一个输出。就这么简单。但为什么这么简单的任务能产生看起来像智能的行为因为当模型足够大、训练数据足够多的时候它为了做好“预测下一个词”这件事被迫学会了语法、事实、逻辑、甚至一些推理能力。这就像一个学生为了考试及格不得不把整本书都背下来背着背着就真的理解了。大模型也是这样它不是为了理解世界而训练的但为了降低预测误差它不得不理解世界。理解这一点之后很多困惑就解开了。比如为什么大模型会“胡说八道”因为它本质上是在预测“最像答案的词”而不是在查数据库。如果训练数据里没有某个事实它就会根据语言模式编一个看起来合理的答案。这不是bug是它的工作方式决定的。3.2 Transformer架构一个不需要公式的解释Transformer是大模型的基础架构2017年提出之后几乎所有主流大模型都是它的变体。它的核心创新是注意力机制用生活化的类比来解释就是当你读一句话的时候你的眼睛不是平均地看每个词而是会根据当前的理解重点看某些词。比如读“小明把书放在桌子上然后他离开了”当你读到“他”的时候你的注意力会自动回到“小明”上因为你知道“他”指代的是小明。注意力机制就是让模型学会这种“回头看”的能力。Transformer的另一大特点是并行处理。以前的模型是一个词一个词按顺序处理的就像你读书只能从左到右一个字一个字读。Transformer可以同时看到整句话的所有词然后计算每个词和其他词的关系。这让训练速度大幅提升也是大模型能做得这么大的原因之一。你不需要理解注意力机制的数学公式但你需要知道它的存在因为后面你调参、优化模型、排查问题的时候很多现象都和这个机制有关。比如为什么模型对输入的顺序不敏感为什么长文本处理起来比较慢这些问题的答案都在注意力机制里。3.3 训练、微调、推理三个必须分清的阶段这三个词经常被混用但它们是完全不同的阶段。训练是从零开始教模型需要海量数据和大量算力普通人基本做不了。微调是在已经训练好的模型基础上用你自己的数据继续教它让它适应特定任务这个普通人可以做租个云GPU就能跑。推理是用训练好的模型来回答问题也就是你平时用ChatGPT的那种状态这个不需要显卡也能做因为模型已经固定了只需要计算。为什么要分清这三个因为很多新手一上来就说“我要训练一个模型”然后发现根本做不了就放弃了。其实他的需求可能只是微调甚至只是推理。比如你想做一个法律问答机器人你不需要训练模型你只需要找一个开源的法律领域微调模型或者用检索增强生成的方式把法律条文喂给通用模型。分清阶段之后你会发现入门门槛比想象中低很多。4. AI编程从调API到搭建自己的Agent4.1 选一个趁手的编程环境和AI插件工欲善其事必先利其器。AI编程的标配是Python加一个顺手的编辑器。我试过好几个编辑器最后稳定在PyCharm上原因是它的代码补全和调试功能对新手很友好。PyCharm有一个叫Fitten的AI插件可以帮你补全代码、解释报错、生成注释实测下来对新手帮助很大。安装方法很简单在PyCharm的插件市场里搜索Fitten点安装重启就行。另一个选择是VS Code轻量、启动快、插件生态丰富。如果你只是写一些脚本和小项目VS Code完全够用。它的AI插件选择更多有GitHub Copilot、Codeium等但有些需要付费或者特殊网络环境你自己权衡。我的建议是如果你已经装了PyCharm就用PyCharm加Fitten如果你还没装任何编辑器先装VS Code因为它更轻对电脑配置要求低。环境配置方面我强烈建议用虚拟环境。很多新手把所有包都装在系统Python里结果不同项目的依赖冲突搞得焦头烂额。用conda或者venv创建一个独立环境每个项目一个环境互不干扰。这一步花十分钟能省你后面十个小时的排查时间。4.2 从调用第一个API开始建立手感学AI编程最快的方式不是看书是直接调API。找一个提供免费额度的平台注册账号拿到API Key然后写一个最简单的Python脚本让模型回答一个问题。这个过程可能只需要半小时但你会立刻建立起“我在用AI”的真实感。调API的核心就三件事认证、发请求、解析响应。认证就是把API Key放到请求头里发请求就是把你的问题按照规定的格式打包发给服务器解析响应就是把服务器返回的JSON里的答案字段取出来。不同平台的API格式略有差异但逻辑完全一样。你调通一个平台之后换另一个平台只需要改几行代码。这里有一个新手常踩的坑API Key不要硬编码在代码里。我见过有人把API Key直接写在Python文件里然后不小心把代码传到公开仓库结果被人盗刷了几百块。正确做法是把API Key放在环境变量里代码里用os.environ读取。这个习惯从第一天就要养成。4.3 提示词工程让模型输出你想要的结果提示词工程听起来很高深其实核心就一句话把模型当成一个很聪明但完全不了解你背景的新员工你需要把任务说清楚。很多人写提示词就一句话“帮我写个方案”然后抱怨模型输出质量差。这不是模型的问题是你没说清楚。一个好的提示词通常包含四个部分角色设定、任务描述、输出格式、示例。角色设定是告诉模型“你是一个资深的产品经理”任务描述是“帮我写一个面向中小企业的CRM产品方案”输出格式是“用Markdown格式包含市场分析、功能列表、定价策略三个部分”示例是“参考以下风格……”。这四个部分不需要每次都写全但写得越全输出越可控。我自己的经验是提示词优化是一个迭代过程。第一版写出来看输出哪里不满意然后针对性地加约束。比如输出太啰嗦就加一句“每个部分不超过200字”输出太笼统就加一句“每个功能点要给出具体的实现方式”。迭代三五轮之后你就能摸到模型在这个任务上的脾气知道该怎么说话它才听得懂。4.4 搭建一个最简单的AI AgentAgent是这两年的热词但它的核心概念很简单让模型不仅能回答问题还能调用工具、执行动作。比如你问“今天北京天气怎么样”普通模型只能根据训练数据回答但Agent可以调用天气API拿到实时数据再回答。这个“调用工具”的能力就是Agent和普通聊天机器人的区别。搭建一个最简单的Agent你需要三样东西一个能调用工具的模型、一组定义好的工具函数、一个让模型决定什么时候调用哪个工具的逻辑。工具函数就是普通的Python函数比如查天气、查数据库、发邮件。模型根据你的问题决定调用哪个函数拿到结果之后再组织语言回答你。我建议新手从“查天气”或者“查汇率”这种简单的工具开始跑通整个流程之后再增加复杂度。不要一上来就搞多Agent协作、自主规划这些高级功能那些东西等你把单Agent跑通了再说。跑通单Agent大概需要一到两天前提是你已经会调API和写Python函数。5. 模型部署把模型跑起来才算真正拥有它5.1 本地部署和云部署怎么选模型部署就是把训练好的模型放到一个地方让它能接收请求并返回结果。部署方式主要有两种本地部署和云部署。本地部署是把模型下载到自己的电脑或服务器上跑优点是数据不出本地、没有网络延迟、不用按次付费缺点是吃硬件、维护麻烦。云部署是把模型部署到云服务器上优点是弹性伸缩、按需付费、不用自己维护硬件缺点是有网络延迟、数据要传到云端、长期使用成本可能更高。怎么选看你的需求。如果你只是自己学习和测试本地部署一个7B左右的小模型就够了一张消费级显卡就能跑。如果你要做产品给用户用那基本必须云部署因为你要考虑并发、稳定性、扩容这些问题。如果你对数据隐私要求极高比如处理医疗记录或法律文件那本地部署是唯一选择。我自己的做法是学习和开发阶段用云GPU按小时租需要的时候开用完就关成本可控。等模型调好了、要长期跑了再考虑是买硬件还是租长期云服务器。不要一上来就买显卡除非你确定自己会长期做这件事。5.2 用Ollama快速跑起第一个本地模型如果你从来没部署过模型我建议从Ollama开始。它把模型下载、环境配置、服务启动这些步骤全部打包成了一条命令你只需要在终端里输入ollama run 模型名它就会自动下载模型并启动一个对话界面。整个过程不需要你懂Docker、不需要你配CUDA、不需要你改配置文件。Ollama支持很多开源模型比如Llama系列、Qwen系列、Gemma系列。模型大小从1B到70B不等你的显卡显存越大能跑的模型越大。一般来说7B模型需要8GB左右显存13B需要16GB70B需要多张显卡或者量化版本。如果你没有独立显卡用CPU也能跑但速度会慢很多7B模型在CPU上大概每秒几个词勉强能用。Ollama的另一个好处是它提供了一个兼容OpenAI格式的API接口。这意味着你之前写的调API的代码只需要把请求地址改成http://localhost:11434就能直接调用本地模型。这个设计非常方便你可以在本地开发调试然后无缝切换到云端模型。5.3 部署之后怎么验证模型是否正常工作模型跑起来之后你需要验证它是否正常工作。最基本的验证是发一个简单的问题看它能不能返回合理的回答。但仅仅这样不够你还需要检查几个关键指标响应时间、显存占用、输出质量、并发能力。响应时间就是从你发出请求到收到完整回答的时间。对于7B模型在消费级显卡上生成100个词大概需要几秒钟。如果超过30秒可能是模型太大或者硬件不够。显存占用可以用nvidia-smi命令查看如果显存接近满载说明模型太大需要换小模型或者用量化版本。输出质量需要你人工判断看看回答是否通顺、是否切题、是否有明显的错误。并发能力是看同时发多个请求时模型能不能正常响应这个对于做产品很重要。我建议你部署完模型之后写一个简单的测试脚本自动发10个不同的问题记录每个问题的响应时间和输出长度。这样你对自己模型的性能有一个量化的认识后面优化的时候也有对比基准。6. AI工程实践从能跑到好用之间的鸿沟6.1 检索增强生成让模型回答它没学过的东西大模型有一个硬伤它的知识截止到训练数据的时间点之后发生的事情它不知道。而且它不知道你私有的数据比如你公司的内部文档、你的个人笔记。检索增强生成就是解决这个问题的先从你的文档库里搜索相关内容然后把搜索结果和用户问题一起发给模型让模型基于搜索结果来回答。这个流程听起来简单但实操中有很多细节。比如文档怎么切分切得太碎搜索出来的片段没有上下文切得太大搜索精度下降。我的经验是每个片段控制在200到500字之间并且保留一定的重叠避免关键信息被切断。再比如搜索怎么搜可以用关键词搜索也可以用向量搜索。关键词搜索准确但不够灵活向量搜索灵活但可能漏掉精确匹配。实践中经常两者结合使用。检索增强生成是目前企业落地AI最常用的方案因为它不需要训练模型只需要准备好文档和搜索系统。你可以在几个小时内搭建一个能用的原型然后根据实际效果慢慢优化。我见过很多团队用这个方案做内部知识库、客服机器人、文档问答效果比直接问通用模型好得多。6.2 容错与可靠性让AI系统稳定运行AI系统有一个特点它是不确定的。同样的输入模型可能给出不同的输出。这在演示的时候没问题但在生产环境就是灾难。用户问“我的订单什么时候到”模型这次回答“明天”下次回答“后天”用户会疯掉。解决这个问题需要从多个层面入手。输入层面对用户的问题做预处理把模糊的问题转成明确的查询。模型层面设置温度参数为0让模型尽量输出确定的结果。输出层面对模型的回答做后处理比如检查是否包含敏感词、是否符合格式要求、是否和知识库矛盾。系统层面设置超时和重试机制模型响应太慢或者失败的时候降级到备用方案。还有一个很重要的实践是日志记录。把每次请求的输入、输出、耗时、模型版本都记下来出问题的时候可以回溯。我见过一个团队模型上线之后效果越来越差但因为没有日志根本不知道问题出在哪里。后来加了日志才发现是知识库更新之后检索模块的索引没有重建导致搜出来的都是旧内容。6.3 多AI协作让不同模型各司其职单个模型再强也有短板。有的模型擅长写代码有的擅长写文案有的擅长数学推理。多AI协作的思路就是让不同的模型做各自擅长的事然后汇总结果。比如你要做一个市场分析报告可以让一个模型收集数据一个模型分析数据一个模型写报告最后一个模型做校对。实现多AI协作有两种方式。一种是串行前一个模型的输出作为后一个模型的输入像流水线一样。另一种是并行多个模型同时处理同一个任务的不同部分最后汇总。串行适合有明确步骤的任务并行适合需要多角度分析的任务。但多AI协作也带来了新的问题成本增加、延迟增加、协调复杂。每多一个模型就多一次API调用多一份费用多一段等待时间。而且模型之间的输出格式可能不兼容需要你做适配。我的建议是先从单模型开始遇到明确的瓶颈再考虑多模型。不要为了用多模型而用多模型。7. 常见问题与排查技巧实录7.1 环境配置阶段的典型问题问题一pip安装包的时候报错“Could not find a version that satisfies the requirement”。这个通常是因为包名拼错了或者这个包不支持你的Python版本。先检查包名然后去PyPI官网查一下这个包支持的Python版本。如果版本不匹配要么升级Python要么找替代包。问题二CUDA版本和PyTorch版本不匹配。这是新手最容易踩的坑。PyTorch对CUDA版本有严格要求装错了就报“CUDA error”。解决办法是去PyTorch官网用它的版本选择器生成安装命令不要自己瞎猜。装完之后用torch.cuda.is_available()验证返回True才算成功。问题三显存不足OOM。模型加载到一半报“CUDA out of memory”。解决办法有三个换小模型、用量化版本、减少batch size。如果都不行那就只能换显卡或者用云GPU。不要试图用CPU跑大模型速度会让你怀疑人生。7.2 模型调用阶段的典型问题问题一API返回401错误。这是认证失败检查API Key是否正确、是否过期、是否有余额。有时候API Key复制的时候多了空格也会导致401仔细检查一下。问题二API返回429错误。这是请求太频繁被限流了。解决办法是降低请求频率或者升级套餐。如果你是在循环里调API加一个time.sleep(1)每秒最多发一个请求。问题三模型输出乱码或者重复。这通常是提示词的问题。检查提示词里有没有特殊字符、有没有格式错误。如果提示词没问题可能是模型的温度参数太高调低一点试试。7.3 部署运维阶段的典型问题问题一模型服务启动之后过一段时间就自动停止。这通常是内存泄漏或者显存泄漏。检查你的代码有没有循环引用、有没有忘记释放资源。如果是用Docker部署的检查容器的资源限制是不是设得太低。问题二并发请求的时候响应时间急剧增加。这是因为模型推理是串行的同时来多个请求只能排队。解决办法是用批处理把多个请求合并成一个批次一起推理。或者部署多个模型实例用负载均衡分发请求。问题三模型更新之后效果反而变差了。这可能是新模型的训练数据分布和你的业务场景不匹配。解决办法是用你的业务数据做微调或者用检索增强生成的方式补充领域知识。不要盲目追求最新最大的模型适合你的才是最好的。8. 我自己的学习路线和时间安排回头看我从零开始学AI的整个过程如果让我重新走一遍我会这样安排时间。第一个月只做两件事学Python基础和调API。Python不需要学得多深能写函数、能读文件、能装包就行。调API就是找几个平台把它们的文档读一遍每个平台写一个demo。这个月结束的时候你应该能写一个简单的脚本让模型帮你处理一些文本任务。第二个月学提示词工程和检索增强生成。提示词工程就是不断写、不断改、不断对比效果。检索增强生成就是搭一个本地文档问答系统用LangChain或者LlamaIndex这些框架把PDF或者Markdown文件喂进去然后问它问题。这个月结束的时候你应该有一个能用的文档问答机器人。第三个月学模型部署和Agent搭建。用Ollama在本地跑一个模型然后用它替换掉之前调用的云端API。再学一下Agent的基本概念搭一个能调用一两个工具的简单Agent。这个月结束的时候你应该对AI应用的完整链路有一个清晰的认识。三个月之后你可以根据自己的兴趣和需求选择深入方向。想深入技术的去学微调和模型优化。想深入应用的去学多Agent协作和工程化部署。想深入产品的去学用户体验设计和商业模式。不管选哪个方向前三个月打下的基础都会让你走得更稳。最后分享一个我自己的体会学AI最怕的不是难是散。网上的教程太多了今天看这个明天看那个最后什么都没学进去。我的建议是选定一条路线从头走到尾中间不要换。遇到不懂的先记下来继续往下走很多时候后面的内容会帮你理解前面的。走完一遍之后再回头补细节效率比一开始就死磕高得多。
、晶体塑性 (CP)、Mooney‑Rivlin 超弹性 (MR))
