第 19 章 用分类模型识别类别文章目录第 19 章 用分类模型识别类别 关于《AI 零基础 36 讲》1. 先确认要分的类别2. 逻辑回归怎样给出分类概率3. 概率的列顺序必须跟类别对上4. 混淆矩阵把错法摆出来5. 决策边界是输入空间里的分界6. 找到两条分错的花7. 在自己的电脑上运行8. 独立练习输入一朵花的四个测量值模型返回versicolor。第 17 章已经跑通过这个流程但结果里还有一个问题没有展开。模型在几个类别之间怎样作出选择选错时又留下了什么线索本章沿用第 17 章的公开 Iris 数据与固定划分训练一个逻辑回归分类器。读完后你会得到每条测试记录的类别概率、一张混淆矩阵、一个单条预测入口并能指出两条分错记录中的具体差异。请先熟悉训练测试划分与 Pandas 的列选择。全部实测结果来自本章代码概率位置练习使用明确标注的教学数字。 关于《AI 零基础 36 讲》零基础也能开始学 AI《AI 零基础 36 讲》是一套面向初学者的 AI 入门教程。课程从认识和使用 AI 开始逐步学习Python、数据处理、机器学习与深度学习再进入大模型应用开发最后完成个人知识库助手的综合实践。本篇是正式讲解文章通过具体例子、原创图示和操作结果讲清概念。涉及编程的章节提供可运行代码方便你边读边试。读完以后动手检验建议按专栏顺序学习并完成对应的课后训练检查自己能否独立运用本章知识。博客专栏《AI 零基础 36 讲》1. 先确认要分的类别Iris 数据一共有 150 条花卉测量记录。每条包括萼片长度、萼片宽度、花瓣长度、花瓣宽度单位都是厘米。标签有三个取值0 表示 setosa1 表示 versicolor2 表示 virginica。数字只是类别编码类别 2 不代表比类别 1 大一倍。本章复制第 17 章固定快照数值没有改动。来源、许可与 SHA256 校验记录见数据说明。编号用于找回原始行训练输入中没有编号和目标标签。读者若自行添加字段先问一遍预测新花时能否拿到它。只有看过标准答案才知道的字段不能当输入。先数清每个类别有多少条。fromexamples.project_coreimportload_dataset,split_dataset frameload_dataset()train,testsplit_dataset(frame)forname,datain[(全部,frame),(训练,train),(测试,test)]:print(name,data.target.value_counts().sort_index().tolist())输出依次为[50, 50, 50]、[40, 40, 40]、[10, 10, 10]。这里使用分层划分划分时尽量保留各类别的比例。训练 120 条测试 30 条固定种子仍为 42与第 17 章完全一致。类别不平衡指某些类别的样本明显少于另一些类别。本章三类一样多没有观察到数量不平衡也就没有为了流程齐全强加类别权重。真实数据若有 950 条正常信息和 50 条垃圾信息一个全猜正常的模型也能达到 95% 准确率。这个数字解释不了垃圾信息是否被识别下一章会实际计算这种情况。平衡的数据仍可能存在采样范围限制。150 条旧测量记录不能覆盖所有测量设备、拍摄环境或新花卉种类。当前输入是测量表格程序没有读取照片。2. 逻辑回归怎样给出分类概率逻辑回归的名称里有“回归”在这里承担的是分类任务。它先根据输入和学到的系数计算各类别分数再把分数转换成类别概率。这个三分类实验使用lbfgs求解器对三个类别共同建模。先沿用第 17 章的完整 Pipeline。Pipeline 把标准化与分类器串在一起标准化只用训练行计算均值和尺度。预测测试记录时沿用训练中保存的统计量。这样既不会把测试数据带入训练也减少了预测时忘记标准化的机会。fromexamples.classification_coreimportexperimentfromexamples.project_coreimportFEATURES model,boundary,train,test,summaryexperiment()print(类别顺序,model.classes_)print(概率形状,model.predict_proba(test[FEATURES]).shape)print(标准化看到的训练条数,model.named_steps[scale].n_samples_seen_)运行结果中的类别顺序是[0 1 2]概率形状是(30, 3)标准化看到的训练条数是 120。30 行对应 30 朵测试花三列对应三个类别。新术语predict_proba的作用就是返回各类别概率predict直接返回预测标签。概率数值在零到一之间每一行合计约为一浮点计算会有很小的舍入差异。它们反映当前模型对输入的判断。本章没有做概率校准也没有检验“输出 0.8 的样本是否约有八成答对”因此不能把一个 0.8 直接当作可靠性保证。概率校准需要另外留出合适的数据进行检验。3. 概率的列顺序必须跟类别对上下面使用公开表第一行的四个数值只演示接口。它来自已有数据不能当作从未见过的新花来报告效果。fromexamples.classification_coreimportexperiment,predict_one_with_proba model,_,_,_,_experiment()resultpredict_one_with_proba(model,[5.1,3.5,1.4,0.2])print(result[name])forname,probabilityinresult[probabilities].items():print(name,f{probability:.6f})输出类别为 setosa三类概率约为 0.980813、0.019187、0.000000。最后一项完整精度约为2.697e-7显示为六位小数时舍入到了零。展示舍入不改变原始计算。本章采用最高概率对应的类别作为标签。找最大值时argmax()返回的是位置。只有用这个位置去索引model.classes_才拿到了对应类别。下面刻意打乱类别顺序数字为原创教学设定。importnumpyasnp classesnp.array([2,0,1])probabilitiesnp.array([0.7,0.2,0.1])positionprobabilities.argmax()print(最大值位置,position)print(对应类别,classes[position])输出最大值位置 0对应类别 2。直接把位置 0 当成类别 0会把概率读错。本章计算模块将标签与对应概率一起返回八项测试中也专门检查这个顺序。4. 混淆矩阵把错法摆出来测试集 30 条模型答对 28 条准确率为28 / 30约 93.33%。这个结果与第 17 章一致添加概率输出没有重新选择划分或修改模型来提高分数。仅看 93.33%你还不知道哪两个类别混在了一起。混淆矩阵是一张按真实类别与预测类别交叉计数的表。本章横轴是预测类别纵轴是真实类别每个格子数的是记录条数。真实类别预测 setosa预测 versicolor预测 virginicasetosa1000versicolor091virginica019从左上到右下的三个格子是正确预测加起来为 28。真实 versicolor 那一行最后一格为 1表示一朵 versicolor 被判断为 virginica。真实 virginica 那一行中间一格也为 1表示一次相反方向的错误。setosa 的十条测试记录都正确。矩阵中的零只能描述这 30 条测试记录不能证明某类永远不会分错。每一类仅有十条测试记录增加一条错误就会使这一类的正确比例变动十个百分点结果对小样本相当敏感。5. 决策边界是输入空间里的分界决策边界指模型预测类别发生变化的位置。输入只有两项时可以把每组输入画成平面中的一个点为平面上很多位置分别预测类别再用背景颜色画出区域。四特征主模型需要四个输入。直接在二维图中忽略两个输入会让读者误以为背景能代表它的完整判断。本章为画图额外训练了一个只使用花瓣长宽的模型仍只用原来的 120 条训练记录。横轴是花瓣长度纵轴是花瓣宽度。圆点对应训练记录三角对应测试记录点的颜色表示真实标签浅色背景表示两特征模型的预测。两种颜色不同就表示这个两特征模型在该点分错了。测试点只在训练结束后叠加未用于拟合背景。图中 setosa 集中在花瓣较短较窄的一侧另两类在中间与右上方有重叠。背景分界来自训练后的模型不是人为圈出的三组范围。本次两特征测试准确率也为 93.33%与四特征主模型数值相同。相同分数不能证明两个模型在每一条记录上做出了相同预测。在四维输入空间里分界不能靠这张二维图完整呈现。另一种画法是固定其余两项后画一个切片但必须写明固定值。本章选择单独训练两特征模型让图的输入与计算保持一致。6. 找到两条分错的花逐条预测表保留编号、四项测量、真实标签与三项概率。两条错误分别为iris-134与iris-077。编号真实类别预测类别versicolor 概率virginica 概率iris-134virginicaversicolor0.51450.4842iris-077versicolorvirginica0.44170.5569第一条花瓣长 5.6 厘米、宽 1.4 厘米第二条长 5.0 厘米、宽 1.7 厘米。这两条的最高两个概率都比较接近第一条仅差约 0.0303。模型最终仍要给出一个标签小差距在这里提醒我们去查看测量和原标签。当前材料只能证明两条记录在现有测量与模型下分错了。我们没有原始花卉照片或复测记录无法判定具体哪一项测量出了问题也不能因为预测不同就改掉真实标签。两条记录提供了复核入口没有提供修改标签的证据。测试集中最高两类概率差距最小的五条记录里后三条预测正确。差距小适合用来安排人工检查不能直接等同于错误。若准备把低概率差距的记录交给人工需要在验证集上决定规则再在独立测试数据上检查成本与效果。7. 在自己的电脑上运行从本章目录运行依赖版本已经固定。py-3.12-m venv.venv.\.venv\Scripts\python.exe-m pip install-r requirements.txt.\.venv\Scripts\python.exe examples/run_classification.py.\.venv\Scripts\python.exe examples/predict.py 5.1 3.5 1.4 0.2.\.venv\Scripts\python.exe-m unittest discover-s tests-v主程序生成results/model.joblib、预测表、混淆矩阵和三张图。预测入口加载本地生成的模型输出标签、名称和类别概率。校验值用于发现文件被改动文件来源仍需要可信。不要加载来路不明的模型文件。打开 Notebook前再安装requirements-notebook.txt选择刚创建的环境先运行主程序生成图。Notebook 中保留了七个实际执行的代码单元格。单条输入报二维数组错误时查看错误与修复记录。四个数字需要组成“一行四列”的输入本章预测入口已处理这个转换。若提示字段数量不对或测量无效检查是否少了一个数、混入标签或输入了零、负数、缺失值。四个测量顺序固定厘米和毫米也不能混用。缺少模型文件时先运行训练入口。更换依赖版本后也先重新训练再做预测避免沿用其他版本保存的对象。8. 独立练习从test_predictions.csv找出iris-138读出真实类别、最高概率类别及最高两项概率差。将它与iris-134对照说明小差距为何只能提醒复核。再用混淆矩阵手算 virginica 的十条真实记录中有几条被识别正确。完整练习与参考答案见【零基础学AI】第 19 章课后练习与答案。先在纸上判断再用代码核对表格。
