Generative AI for Beginners 第 16 课解读开源模型全景解析与选型实战【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners开源 LLM 生态正在快速演进理解开源模型/开放模型的定义边界、核心优势与典型代表是构建生成式 AI 应用时做出正确技术决策的前提。本文以《generative-ai-for-beginners》课程第 16 课对应仓库 translations/fr/16-open-source-models/README.md 与 16-open-source-models/README.md为骨架结合仓库内第 20 课 Mistral、第 21 课 Meta 家族等后继实战内容为你厘清从开放模型是什么到面对 Llama、Mistral、Falcon 该选谁的完整决策链路。本课定位课程体系中的开放模型选型一站第 16 课是课程中专注于**开放模型open models**的独立章节。它的直接上下文是课程中另外两讲若你需要了解专有模型proprietary与开放模型的整体差异、如何按任务类型横向对比各类 LLM请先回到 02-exploring-and-comparing-different-llms/README.md本课会提及模型的微调fine-tuning但更完整的微调机制、成本收益分析与实践教程见 18-fine-tuning/README.md。本课覆盖三个核心学习目标理解什么是开源模型理解使用开放模型的价值学会在 Hugging Face 与模型目录中探索可用的开放模型。什么是开源模型从软件开源到模型开源的定义辨析开源软件在推动技术发展上作用巨大。开源促进会Open Source InitiativeOSI定义了十条软件开源判据其要义是源码必须在 OSI 批准的许可证下公开共享。但 LLM 的开发过程与常规软件并不完全相同社区因此对LLM 语境下的开源展开了大量讨论。要符合传统意义上的开源定义一个模型通常要求下列信息全部公开用于训练模型的数据集训练过程中的完整模型权重评估代码evaluation code微调代码fine-tuning code完整模型权重与训练指标training metrics。截至本课撰写时真正完全满足上述标准的模型屈指可数例如 Allen 人工智能研究所AllenAI发布的OLMo如 OLMo-7B即属于这一类。因为大多数模型尚未完全满足传统开源定义本课统一使用更稳妥的称谓开放模型open models。这一概念辨析并非咬文嚼字它直接影响你后续对许可证条款、可定制范围、可复现程度的判断。仓库第 02 课在对比开放权重open-weight、开源与专有模型时也提醒团队在投入生产前必须审查许可证条款、服务成本、维护与安全更新、评估质量等因素这一点与第 16 课严谨称呼开放模型的思路一脉相承。开放模型的三大核心优势高度可定制Highly Customizable开放模型发布时往往附带详细的训练信息研究者与开发者能够修改模型内部组件产出面向特定任务或研究领域的高专业化模型。本课列举的典型垂直领域包括代码生成、数学运算与生物学。例如下一节将看到的 BioMistral医学、OpenMath Mistral数学等微调版本正是基于开放权重二次定制的直接产物。成本Cost使用与部署开放模型的每 token 成本通常低于专有模型。在构建生成式 AI 应用时针对你的用例评估模型的性能/价格比是必要环节。下图给出按每百万 token 价格USD排列的模型对比纵轴越低代表越便宜图片来源Artificial Analysis本图取自 16-open-source-models/images/model-price.png从仓库后继课程可以印证这一成本优势的实际形态第 20 课 20-mistral/README.md 在介绍 Mistral Small 时即指出其相比 Mistral Large、NeMo 等大模型可带来显著成本节约且延迟更低——这正是把开放/低成本模型用于高频请求场景的工程化示例。灵活性Flexibility开放模型允许你在不同模型之间自由切换甚至组合使用。一个典型例子是 HuggingChat Assistants用户可以在界面中直接切换当前使用的模型。仓库中 16-open-source-models/images/choose-model.png 展示了这种设置界面这种可插拔能力让团队可以低成本进行多模型 A/B 对比而不必被单一供应商锁定。典型开放模型巡礼Llama、Mistral、FalconLlama 2面向对话优化的 Meta 开放模型Llama 2 由 Meta 开发是一个针对聊天类应用优化过的开放模型。其微调方法引入了大量对话数据与人类反馈使模型输出更符合人类预期、用户体验更佳。社区衍生的微调版本示例包括Japanese LlamaELYZA 的 Japanese-Llama-2-7b专注于日语场景Llama ProTencentARC 的 LLaMA-Pro-8B在基础模型之上的增强版本。在本仓库的课程演进中Meta 家族模型是持续深入的主题。第 21 课 21-meta/README.md 系统介绍了 Llama 3.1 与 Llama 3.2 两个后续代际Llama 3.1含 70B Instruct、405B Instruct 等变体在原 Llama 3 基础上扩大了上下文窗口最高 128k tokens、提升多语言能力并支持**原生函数调用native function calling**与内置的 Brave Search、Wolfram Alpha 工具便于构建 RAG 与工具集成型应用Llama 3.211B/90B Vision Instruct另有 1B/3B 文本版首次在 Llama 家族引入多模态输入同时接受文本与图像并通过小尺寸变体支持边缘/移动端低延迟部署。在 21-meta/python/githubmodels-assignment.ipynb 中你可以直接看到用Meta-Llama-3.1-405B-Instruct触发工具调用、用Llama-3.2-90B-Vision-Instruct描述图片的可运行代码。Mistral主打高性能与高效率的开放模型Mistral 系列开放模型以高性能和高效率著称其突出特点是采用Mixture-of-Experts专家混合MoE架构把一组各有所长的专家模型组合为单一系统根据输入内容只激活部分专家因此计算只发生在模型最擅长的输入上显著提升推理效率。社区微调版本示例包括BioMistralBioMistral-7B聚焦医学领域OpenMath MistralNVIDIA 的 OpenMath-Mistral-7B擅长数学计算。仓库中的第 20 课 20-mistral/README.md 是本主题的直接续篇覆盖了 Mistral Large 2、Mistral Small 与 Mistral NeMo 三个模型族系Mistral Large 2旗舰级企业模型上下文窗口达 128k具备原生函数调用与更强的代码生成能力Mistral Small定位小语言模型SLM成本低、延迟低、部署灵活Mistral NeMo采用更高效的 Tekken 分词器并原生支持函数调用是首批具备该能力的开源模型之一基础权重开放微调灵活性更高。20-mistral/python/githubmodels-assignment.ipynb 提供了基于Mistral-large、Mistral-small、open-mistral-nemo的完整对比实验包括同一提示词下的大小模型延迟差异以及 NeMo 与 Large 的分词 token 数对比。此外19-slm/README.md 在对比 LLM 与 SLM 时也提及 Mistral 7B 采用滑动窗口注意力sliding window attention的 decoder-only 架构可作为理解 Mistral 效率取向的补充注脚。Falcon来自 TII 的轻计算高性能模型Falcon 由阿联酋技术创新研究所Technology Innovation InstituteTII打造。其中Falcon-40B以约 400 亿参数训练据本课所述在更少计算预算下展现了优于 GPT-3 的表现。这主要归功于其采用的FlashAttention 算法与多查询注意力multiquery attention后者降低了推理时的显存需求从而缩短推理时间使 Falcon-40B 非常适合聊天类应用。社区微调版本示例包括OpenAssistantfalcon-40b-sft-top1-560构建于开放模型之上的通用助手GPT4ALLnomic-ai/gpt4all-falcon相比基础模型提供更高性能。如何选择开放模型一条可操作的决策路径本课明确指出不存在唯一正确答案。但你可以遵循以下组合策略逐步收敛按任务过滤使用模型目录的按任务筛选filter by task功能了解每个模型是为何种任务而训练的这是很好的起点。课程体系内各课反复出现的 Microsoft Foundry 模型目录第 20 课、第 21 课 中均有说明即可按此方式检索本节讨论的模型。借助公开排行榜Hugging Face 维护有 LLM Leaderboard可基于特定指标查看表现领先的模型。横向对比质量与价格跨类型比较 LLM 时Artificial Analysis 提供了质量与成本两个维度的可视化对比例如下方的模型质量指数Quality Index越高越好图片来源Artificial Analysis取自 16-open-source-models/images/model-quality.png综合本课给出的成本更低但专长不同的两张图可以看到Llama 2 Chat 70B、Mixtral 8x7B 等在成本端具备明显优势而质量指数则随模型与任务不同而分化——这正是性能/价格比需要按自身用例评估的直观论据。面向垂直领域搜索微调版如果你的场景足够具体直接搜索聚焦该领域的微调版本往往更有效如医疗BioMistral、数学OpenMath Mistral、日语Japanese Llama等前述案例。亲自动手做实验同时尝试多个开放模型观察它们在你的数据与用户预期下的真实表现再决定取舍。进阶从用开放模型到定制开放模型第 16 课提到微调主题并指向第 18 课。若你选定了一个开放模型但需要领域化提升微调fine-tuning是对模型本身进行再训练的技术路线。正如 18-fine-tuning/README.md 所说明的提示工程与 RAG 通过修改输入提升质量而微调通过新增训练数据重训模型。对于开放模型微调在仓库中也有现实生态佐证第 18 课在开放生态层面列举了通过 Hugging Face transformers 与 TRL 微调开放 LLM如 CodeLlama 7B、基于 AutoTrain 无代码微调、以及 Unsloth 等框架的路径。需要留意的是本课与第 18 课都强调微调是高级技术必须先明确用例、尝试过提示工程与 RAG 基线、核算数据/算力/部署成本后再启动若操作不当反而可能损害目标域表现。上手实践建议开放模型最大的优点之一就是上手极快。你可以从以下仓库内资源开始阅读本课的英文原版 16-open-source-models/README.md 与法语版 translations/fr/16-open-source-models/README.md 获取完整对比与图注如需在专有/开放之间先建立整体认知先学 02-exploring-and-comparing-different-llms/README.md选定 Llama 后运行 21-meta/python/githubmodels-assignment.ipynb 体验函数调用与多模态推理选定 Mistral 后运行 20-mistral/python/githubmodels-assignment.ipynb 做延迟与分词对比实验需要微调定制时回到 18-fine-tuning/README.md 及其微调教程清单。小结开放模型的世界充满活力且持续演化。理解传统开源判据与现实中的开放模型之间的差距把握其高可定制、低成本、高灵活三大价值并借助模型目录的任务过滤、社区排行榜与质量/价格可视化资源进行选型你就具备了构建生成式 AI 应用的第一手武器。而当你需要更强垂直能力时开放权重还为你保留了通往微调与自主部署的完整通路——这正是开放模型生态最值得深入探索之处。【免费下载链接】generative-ai-for-beginners21 Lessons, Get Started Building with Generative AI项目地址: https://gitcode.com/GitHub_Trending/ge/generative-ai-for-beginners创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
