鸢尾花数据集实战：手写线性回归与scikit-learn对比

简介鸢尾花数据集是机器学习入门最经典的多元分类数据集之一本资源面向Python初学者与机器学习新手围绕花萼长度、宽度与花瓣长度、宽度4个特征演示如何用线性回归模型对Setosa、Versicolour、Virginica三类鸢尾花进行预测与分类。资源包共2个文件包含1个data格式数据集、1个Python脚本文件压缩包仅2KB体积轻量便于直接下载运行适合作为课堂实验、课程设计或自学练手的基础素材。目前已有11532人学习足见其经典程度与实用价值。脚本实现了数据读取、模型训练与结果预测的完整流程配套原始iris.data数据文件可帮助读者快速理解线性回归在分类问题上的应用方式同时为后续拓展到逻辑回归、决策树等算法提供清晰的可对照范例。1. 项目概述与整体思路1.1 为什么拿鸢尾花练线性回归说实话鸢尾花数据集在机器学习圈子里算是“Hello World”级别的存在但你别因为它入门就小看它。我见过不少刚接触Python的朋友数据集下载了一堆代码跑通了一堆最后问他“这个模型到底解决了什么问题”却说不清楚。鸢尾花数据集最大的优势就是把问题规模控制得刚刚好150条样本、4个特征、3个类别数据干净、量级小、规律明显拿来练线性回归再合适不过。这个项目的本质是用花瓣长度预测花瓣宽度或者用花萼长度预测花萼宽度本质上是找到一个“特征X”和“目标y”之间的线性关系。听起来简单但里面涵盖了机器学习最核心的流程——数据加载、探索性分析、建模训练、评估可视化每一个环节都能放大到真实项目里。所以这个项目适合谁零基础想入门机器学习的Python爱好者、刚看完语法想找个真实项目练手的初学者、以及想从“调用API”进阶到“理解原理”的数据分析新人。哪怕你已经会用sklearn跑回归了我也建议你跟着把从零手写的部分过一遍那一层窗户纸捅破之后后面学什么模型都快。1.2 项目的整体技术路线整个项目我拆成了四步走每一步都有明确的产出数据准备加载鸢尾花数据集理解数据结构选好训练用的特征原理实现先用NumPy手写线性回归的核心计算理解w和b是怎么算出来的工具实现再用scikit-learn的LinearRegression跑一遍对比两种方式的结果评估可视化算误差指标画散点图和回归线直观感受模型效果我推荐你也按这个顺序来做先手写再调库。因为直接调库的话你永远不知道LinearRegression的fit方法背后发生了什么。等你自己用矩阵运算把正规方程写出来再去看sklearn的文档会有一眼全是老朋友的感觉。2. 环境准备Python与核心依赖2.1 开发环境怎么搭比较省心做数据分析类的项目我强烈建议直接装个Anaconda比单独装Python再配置要省心太多。Anaconda自带Python解释器、Jupyter Notebook、Spyder而且预装了numpy、pandas、matplotlib这些核心库省去了初学者最容易卡住的“装库”环节。如果你不想用Anaconda那至少要把Python本体装好。去官网下载安装包的时候记得把“Add Python to PATH”勾上这一步很多人忽略导致后面命令行里敲python没反应。装完之后在命令行跑一下python --version能看到版本号就说明环境没问题。我现在电脑上用的是Python 3.10scikit-learn版本是1.2.2这些版本搭配很稳定。如果你用的是3.11以上部分库可能需要升级到最新版才能兼容。编辑器方面新手推荐用VSCode装上Python插件和Jupyter插件之后体验很好。想省事的话直接在Anaconda里打开Jupyter Notebook写也行逐行跑代码对理解数据帮助很大。2.2 依赖库安装与国内镜像加速这个项目需要五个库numpy数值计算、pandas数据处理、matplotlib绘图、seaborn进阶绘图、scikit-learn机器学习工具库。如果用的是Anaconda前面四个基本都有了通常只需要装scikit-learn。直接安装经常遇到网络超时我用的是清华镜像源速度稳定很多pip install scikit-learn -i https://pypi.tuna.tsinghua.edu.cn/simple要是还缺其他库就一次性装齐pip install numpy pandas matplotlib seaborn scikit-learn -i https://pypi.tuna.tsinghua.edu.cn/simple装完之后进Python交互环境验证一下import sklearn print(sklearn.__version__)能输出版本号就说明环境OK了。我见过很多人在这一步报错大多数情况是“ModuleNotFoundError: No module named sklearn”原因基本就两个库没装成功或者pip装到了不同的Python环境下。如果你电脑里同时有多个Python版本一定要用python -m pip install而不是直接pip install这样能确保装到当前Python所在的路径下。3. 数据加载与探索性分析3.1 三种加载方式你至少会两种鸢尾花数据集的加载方式很多我平时用得最多的是从scikit-learn直接拉取代码最简单from sklearn.datasets import load_iris import pandas as pd iris load_iris() # 把数据转成DataFrame方便查看 df pd.DataFrame(iris.data, columnsiris.feature_names) df[target] iris.target df[species] iris.target_names[iris.target]查看数据结构print(df.head()) print(df.shape) print(df.describe())head()输出前5行能快速确认数据格式对不对shape输出(150, 6)也就是150条样本、6列4个特征加target和speciesdescribe()输出每列的最大值、最小值、均值、四分位数能对数据范围有个整体感知第二种方式是用seaborn直接加载适合画图场景import seaborn as sns df sns.load_dataset(iris)第三种是自己下载CSV文件然后读取通常用pandas就行df pd.read_csv(iris.csv)我建议初学者三种都试一遍重点掌握第一种和第三种。实际工作里很少能用API直接加载数据的多半是给你一个CSV或Excel文件让你自己读。3.2 选特征不是随便拿一列就开干加载完数据第一个问题是拿哪两个变量做线性回归记住线性回归要解决的是一对变量之间有没有线性关系所以得先判断一下。直接用矩阵算相关系数corr df.iloc[:, :4].corr() print(corr)你会发现petal length花瓣长度和petal width花瓣宽度的相关系数高达0.96左右sepal length和sepal width的相关性只有-0.12。这个数字说明花瓣的两个特征之间有很强的正线性关系拿来做回归效果会很好而花萼的两个特征基本没什么线性关系拿来做回归就没什么意义。如果嫌看数字不直观可以画个pairplot一眼扫过去import seaborn as sns sns.pairplot(df, huespecies)可以看到petal_length和petal_width的散点几乎是沿着一条直线分布的非常漂亮。这就是我选择X花瓣长度、y花瓣宽度的原因——先把一个线性关系明显的案例跑通理解整个流程之后你再拿那些相关性弱的特征试试对比一下效果体会会更深。4. 线性回归原理与两种实现方式4.1 线性回归到底在做什么一句话解释线性回归找一条直线y wx b让所有样本点的“预测误差”尽量小。这里的w是斜率权重b是截距误差通常是“预测值-真实值”的平方和也就是经典的“最小二乘法”。想象你在墙上钉了一排钉子每个钉子代表一个样本点x, y现在要找一根最合适的直棍从这些钉子中间穿过去让每个钉子到直棍的垂直距离的平方之和最小。这就是线性回归的物理画面。数学上这个问题有闭式解叫正规方程w (X^T X)^(-1) X^T y不用被公式吓住在代码里就是几行矩阵运算的事。这也是我推荐用正规方程而不是梯度下降来手写的原因数据集小正规方程一步到位不用调学习率、不用迭代代码短逻辑清楚。4.2 方法一手写正规方程实现完整代码如下import numpy as np from sklearn.datasets import load_iris # 加载数据取花瓣长度和花瓣宽度 iris load_iris() X iris.data[:, 2] # 花瓣长度 y iris.data[:, 3] # 花瓣宽度 # 给X加上一列1用来表示截距b X_b np.c_[np.ones((len(X), 1)), X] # 正规方程w (X^T * X)^(-1) * X^T * y w np.linalg.inv(X_b.T.dot(X_b)).dot(X_b.T).dot(y) intercept, coef w[0], w[1] print(f截距: {intercept:.4f}, 斜率: {coef:.4f})运行结果大约会输出截距 -0.3631斜率 0.4158。也就是说花瓣宽度约等于0.4158乘以花瓣长度减0.3631。这个公式就像一把尺子知道了一朵花的花瓣长度就能估算出它的花瓣宽度。这里有个细节我想强调为什么要用np.c_给X加一列1因为线性回归的完整形式是y wx b如果只是y wx的话直线被强制过原点拟合效果会大打折扣。加一列1之后线性代数把b当作w的一部分去求解就让直线可以在任意位置。初学者最容易漏的就是这一步你试一下不加这列的效果回归线会明显偏掉。4.3 方法二scikit-learn三行搞定对比一下用sklearn要简洁太多from sklearn.linear_model import LinearRegression model LinearRegression() model.fit(X.reshape(-1, 1), y) print(f截距: {model.intercept_:.4f}) print(f斜率: {model.coef_[0]:.4f})输出结果和手写版本基本一致。为什么一致因为sklearn的LinearRegression在小规模数据下默认就是走正规方程路线确切说是最小二乘法求解。你手写的计算结果和库的结果对得上说明原理理解了以后遇到大规模数据再去看sklearn里另一个求解器SGDRegressor学起来就有据可循。注意X.reshape(-1, 1)这步。sklearn要求特征必须是二维的形状是(150, 1)而不能是(150,)这跟手写版里的np.c_加列本质上是一回事——都在跟模型强调“我只有一个特征但我要保留维度信息”。我在带新手时发现这个reshape操作是高频报错点这里先给你提个醒。5. 模型评估与可视化5.1 三个关键指标MSE、RMSE、R²模型训练好了怎么判断它“好”还是“不好”三个指标最常用MSE均方误差所有样本的预测误差平方的平均值越小越好RMSE均方根误差MSE开根号单位跟y一致更容易解释R²决定系数解释“模型能解释多少变异”范围一般在0到1之间越接近1越好计算代码如下from sklearn.metrics import mean_squared_error, r2_score # 用模型预测 y_pred model.predict(X.reshape(-1, 1)) mse mean_squared_error(y, y_pred) rmse np.sqrt(mse) r2 r2_score(y, y_pred) print(fMSE: {mse:.4f}) print(fRMSE: {rmse:.4f}) print(fR²: {r2:.4f})我跑出来的结果大致是MSE0.0410RMSE0.2025R²0.9268。什么意思呢花瓣宽度的范围大约在0.1到2.5之间RMSE是0.2左右相当于平均预估误差还不到最大量程的十分之一效果相当理想。R²达到0.93则意味着花瓣宽度的变化有93%可以被花瓣长度解释剩下7%来自于品种差异或其他噪声。顺便说一句手写版算出来的R²也是一样的因为预测值一致。建议你自己把这两个方式的预测值减一减看是不是接近0这是验证实现正确性的一个实用小技巧。5.2 把回归线画出来模型的数学结果已经知道了但数据是不直观的——这时候就得靠画图。散点加回归线是机器学习入门里最经典的一幅图import matplotlib.pyplot as plt plt.figure(figsize(8, 5)) plt.scatter(X, y, alpha0.6, csteelblue, label样本数据) plt.plot(X, coef * X intercept, colorred, linewidth2, label回归线) plt.xlabel(花瓣长度 (cm)) plt.ylabel(花瓣宽度 (cm)) plt.title(鸢尾花花瓣长度与花瓣宽度的线性回归) plt.legend() plt.grid(True, alpha0.3) plt.show()画出来的图里红色的回归线斜斜地穿过蓝色散点群整体贴合得很紧。你会发现离回归线比较远的点大多是右上方的几个点它们是维吉尼亚鸢尾花花瓣本身就偏大个体差异也相对明显。这就是模型的“不可解释误差”部分也是后面可以引入多特征回归或非线性模型的切入点。顺带说个画图细节如果想看回归线两侧的置信区间用seaborn的lmplot一行就能搞定sns.lmplot(xpetal_length, ypetal_width, datadf)它会自动帮你把回归线、置信区间、散点都画好做探索性分析时效率特别高。6. 常见问题与排查经验6.1 数据维度报错sklearn的fit方法报错“Expected 2D array, got 1D array instead”是最常见的问题。原因前面说过了sklearn的输入必须是二维的。解决办法就一个# 错误写法 model.fit(X, y) # 正确写法 model.fit(X.reshape(-1, 1), y)在代码里给X加一个维度或者传标签值时用[:, np.newaxis]效果一样。我一般在写代码的早期就把X定义成二维后面很多麻烦都能避免。6.2 matplotlib中文乱码画图时如果标题或坐标轴用了中文显示出来是一堆方框这是因为matplotlib默认字体不支持中文。解决办法是先切换到支持中文的字体plt.rcParams[font.sans-serif] [SimHei] # Windows # 如果是Linux可以换成 [WenQuanYi Zen Hei] 或 [Noto Sans CJK SC] plt.rcParams[axes.unicode_minus] False # 解决负号显示问题每次新建画图脚本都写一遍这两行省心省力。字体不支持导致错误信息看不懂是很多新手直接放弃的痛点这里先帮你排掉。6.3 安装库时网络慢、装不上如果你的pip一直卡在下载阶段用官方源慢得很国内用户换成清华源能加速好几倍。另一个常见问题是权限不足Linux或macOS下装库报“Permission denied”加上--user参数就行pip install scikit-learn --user -i https://pypi.tuna.tsinghua.edu.cn/simple如果你发现代码里import sklearn报错但pip list里能看到scikit-learn那多半是环境混了。检查一下你的pip是哪个Python的which python python -m pip list确认你写代码用的Python解释器跟pip安装时的Python是同一个。6.4 跑出来的结果和教程不一致这个可能的原因比较多。一是scikit-learn版本差异导致的默认参数变化二是数据加载时随机抽样的种子不一样三是手写代码时X_b的拼接方向写错了。解决方法是打印关键变量的shape一步步对照教程数据。你也可以顺手把数据存一份比如df.to_csv(iris_check.csv)方便后续反复检查。别怕结果不一样做数据分析本来就需要反复对照调试。最后的扩展建议这个项目跑通之后你可以往几个方向继续深挖。把单一特征改成全部四个特征做多元线性回归R²会从0.93进一步提升到0.94左右虽然提升不大但能让你理解多特征是怎么协作的。再把花瓣长度做一次多项式特征用Pipeline包起来做多项式回归你会看到曲线比直线拟合得更好。最后可以试试跳过回归直接用鸢尾花数据集做KNN分类你会发现同一个数据集在回归任务和分类任务里的表现逻辑完全不同。我个人练下来最大的体会是机器学习入门不在于你看了多少理论和视频而在于把一个最简单的项目亲手从头到尾跑通。第一次跑通的时候看着那条红色的回归线准确地穿过数据点你会突然觉得公式里那些符号都活过来了。如果你卡在某个细节上不管是环境配置还是代码报错照着上面这几类问题排查一遍基本都能解决。本文还有配套的精品资源点击获取