简介钢铁表面缺陷检测是工业质检与智能制造的关键环节这份数据集面向相关算法研发人员、学生及质检系统开发者提供1800张标注清晰的钢铁表面图像覆盖裂纹、锈蚀、凹坑、划痕等典型缺陷可直接用于图像分类、目标检测模型的训练与评估。压缩包共2000个文件除1800个jpg图像外还包含txt与xml格式的标签文件、data与names配置信息以及train/val/test划分文件txt与xml分别适配不同检测框架划分文件便于直接开展交叉验证和性能对比省去自行标注和整理数据的繁琐步骤。包体大小约26.81MB轻量易用方便快速下载和多次实验。目前已有2447人学习使用适合从基础实验到工业落地场景的缺陷检测项目。借助这套资源使用者可以快速搭建YOLO、Faster R-CNN等常见模型利用规范标签评估精度、召回率等指标并参考其目录结构构建自己的数据集从而把更多精力投入到模型调优与生产环境适配中。1. 钢铁表面缺陷检测图像数据集1800张带标签图先用来验证哪些问题看到“钢铁表面缺陷检测图像数据集1800张图像含标签”这个标题我的第一反应不是“图太少了”而是“够把流程跑通了”。工业视觉里最缺的从来不是模型而是能落地的标注数据1800张虽不算大却足够支撑一次完整的缺陷检测基线验证——包括标签格式检查、训练集划分、模型选型、迁移学习微调和指标评估。它最适合回答三个问题这个检测方向能不能做、缺陷类别到底长什么样、现有模型能到什么精度。对刚入门的工程师来说这是一套可以完整走一遍的“最小可行数据集”对有一定经验的人它也是检验自己数据处理习惯的标准样本。接下来的内容就是我拿到这类数据后从零到一跑通的完整路径。2. 拆开这份缺陷数据集的真实结构标签格式、类别分布与质量核查拿到数据集后我不会立刻解压看图片也不会急着配训练环境而是先做一次“数据体检”。“含标签”这三个字信息量太少——标签是什么格式、坐标原点在哪、类别编号怎么排、有没有空标注和越界框这些问题直接决定后续所有脚本怎么写。这一章翻车后面几周都会被脏数据拖着走所有时间都在给异常样本擦屁股。钢铁表面缺陷数据集的标注常见有三种存储形态XML 的 Pascal VOC 风格、TXT 的 YOLO 风格、JSON 的 COCO 风格。我先提醒一个最容易忽略的点三种格式的坐标表示完全不同VOC 和 COCO 用绝对像素坐标YOLO 用归一化相对坐标而且坐标原点都在左上角不是图像处理里常见的左下角。这个差异稍不注意画出来的框就会上下颠倒。2.1 三种常见标注格式的字段含义与坐标约定标注格式文件后缀坐标表示原点约定核心字段VOC / XML.xml绝对像素左上角object/name、bndbox/xmin、ymin、xmax、ymaxYOLO / TXT.txt归一化相对坐标左上角每行依次为 cls、xc、yc、w、hCOCO / JSON.json绝对像素左上角annotations/bbox[x, y, w, h]VOC 的 XML 通常长这样根节点是 annotation里面有 size/width、size/height、size/depth然后每一条缺陷是一个 object 节点包含 name类别名和 bndbox左下和右上两个角点。YOLO 的 TXT 则简单得多每行五个数字第一个是类别编号后面四个是目标中心点的 x、y 以及宽高全部除以图像宽高做了归一化。COCO 的 JSON 一般由 annotations 数组承载bbox 字段是[x, y, w, h]注意它给的是左上角坐标和宽高不是右下角。拿到数据后先确认是哪一种再决定解析脚本。我自己习惯写一个“自动识别”脚本扫一下标注目录里是 .xml 多还是 .txt 多同时也检查有没有同名不同后缀导致的解析失败。这个动作本身不值钱但它能帮你少踩一半的格式坑。2.2 用脚本统计类别分布与边界框尺寸先看清数据再谈训练数据体检的核心是统计每类缺陷有多少张图、多少个框框的宽高分布如何有没有坐标越界。下面这段脚本用标准库就能跑不需要额外装依赖import os, glob import xml.etree.ElementTree as ET from collections import Counter, defaultdict ann_dir annotations img_dir images # img_with_cat: 每个类别出现在多少张不同图像里 # box_count: 每个类别的标注框总数 img_with_cat defaultdict(set) box_count Counter() for xml_path in glob.glob(os.path.join(ann_dir, *.xml)): root ET.parse(xml_path).getroot() img_name root.findtext(filename) width float(root.findtext(size/width)) height float(root.findtext(size/height)) for obj in root.findall(object): cat obj.findtext(name) box_count[cat] 1 img_with_cat[cat].add(img_name) xmin float(obj.findtext(bndbox/xmin)) ymin float(obj.findtext(bndbox/ymin)) xmax float(obj.findtext(bndbox/xmax)) ymax float(obj.findtext(bndbox/ymax)) # 越界框会在训练时产生负坐标需要尽早暴露 if xmin 0 or ymin 0 or xmax width or ymax height: print(越界框:, xml_path, cat, (xmin, ymin, xmax, ymax)) print(标注框数:, dict(box_count)) print(含各类别的图像数:, {k: len(v) for k, v in img_with_cat.items()})这段脚本的逻辑是遍历所有 XML取 size 下的图像宽高做边界判断对每个 object 节点累加框数并用集合去重统计“每类至少出现一次”的图像数。为什么要区分“框数”和“图像数”因为一张图里可能有十几个同类缺陷如果只看图像数会低估类别规模只看框数又会忽略单图多缺陷带来的训练难度。参数上只需要改开头的 ann_dir 和 img_dir 两个路径。如果标签是 YOLO 的 TXT解析更简单读每一行第一位是类别编号后四位是归一化的中心坐标和宽高。注意 TXT 没有保存图像尺寸越界检查必须结合对应图片的宽高来做不能只看数值。这也是 TXT 格式的先天弱点它把图像尺寸信息外置了标签文件一旦和图片分离很多信息就断了。2.3 抽图可视化人工核对标签和图像的对应关系统计数字再漂亮也不能替代人眼抽检。我通常会从每个类别里随机抽 10 到 20 张图把标注框画在原图上逐张过一遍。钢铁表面有很强的反光和纹理干扰标注员很容易把高光条纹当成缺陷或者漏掉一些小裂纹——这种问题只有叠图才能看出来。import cv2 def draw_yolo_box(img_path, txt_path, names): img cv2.imread(img_path) if img is None: return None h, w img.shape[:2] with open(txt_path) as f: for line in f: cls, xc, yc, bw, bh map(float, line.split()) x1 int((xc - bw / 2) * w) y1 int((yc - bh / 2) * h) x2 int((xc bw / 2) * w) y2 int((yc bh / 2) * h) # 把越界坐标裁回图像范围内避免画框时出错 x1, y1 max(0, x1), max(0, y1) x2, y2 min(w, x2), min(h, y2) cv2.rectangle(img, (x1, y1), (x2, y2), (0, 255, 0), 2) cv2.putText(img, names[int(cls)], (x1, max(0, y1 - 6)), cv2.FONT_HERSHEY_SIMPLEX, 0.7, (0, 0, 255), 2) return img这个函数的逻辑很简单从 TXT 里解析归一化坐标乘回图像宽高得到像素坐标然后用 OpenCV 画矩形和类别名。参数上需要注意两点一是 names 列表要和训练配置里的类别顺序一致否则画出来的名字错位二是 draw 前必须裁掉越界坐标否则 OpenCV 会在图像边界外画框然后报错。检查时重点看三类问题第一框是否包住了真正的缺陷边缘还是松垮地框住一大片背景第二同类缺陷的框风格是否统一比如有人把划痕标成细长框有人标成包围整条划痕的宽框第三同一样本里类似缺陷是否出现“这个框了、那个没框”的情况。最后一种最致命因为它直接导致模型 recall 上不去而且后期排查非常费时。2.4 空标注和孤立文件的处理清洗优先于补标数据体检里还有一个常被忽略的项目检查有没有“有图无标签”“有标签无图”“空 XML”“空 TXT”这四类异常。做法是把 images 目录和 annotations 目录的文件名前缀取出来做集合差再按文件名逐一核对标签文件是否为空。空标签文件对训练框架来说不是错误但它意味着这张图被默认为背景图如果数据集中大量出现这种情况模型会很自然地把所有图片都预测为背景。钢铁表面缺陷检测里缺陷区域往往只占图像面积的百分之几背景图过多会严重压制正样本的学习。我的建议是缺失标签的图片先移出训练目录单独存放空标注文件也统一移出不参与训练。如果项目本身需要模型增强对“无缺陷”负样本的判断力那应该把这些空图单独做一轮二分类训练而不是混在检测训练里。检测模型对背景的感知是通过分类损失中的负样本完成的空图太多会让收敛变得不稳定这属于典型的“小数据集里样本比例失衡”问题。3. 把1800张图切成训练基线按批次划分、坐标转换与类别映射很多人拿到数据后的第一件事就是随机切 train/val这个动作在钢铁表面缺陷场景里是危险的。钢板的表面纹理有极强的自相似性同一批、同一卷钢材上采集的相邻图像几乎可以认为是同一块表面的不同裁剪如果随机划分验证集里会混进大量和训练集“撞脸”的样本模型记住的是背景纹理而不是缺陷本身最后跑出来的验证指标虚高得让你误以为可以上线。我处理这类数据的固定原则是训练集和验证集必须按采集批次隔离。哪怕牺牲一点训练数据量也要保证验证集来自模型没见过的批次或钢卷。这样才能模拟“模型上新产线”的真实状况。3.1 按批次分组的划分脚本同一个批次不能同时出现在两个集合假设图片文件名带有批次前缀比如 batch1_0001.jpg、batch2_0001.jpg划分脚本可以这样写import os, random, shutil from collections import defaultdict random.seed(42) img_dir images train_dir images/train val_dir images/val ratio 0.2 groups defaultdict(list) for f in os.listdir(img_dir): if not f.endswith(.jpg): continue # 用下划线分隔的前缀作为批次标识 prefix f.split(_)[0] groups[prefix].append(f) train_files, val_files [], [] for prefix, files in groups.items(): files sorted(files) n_val max(1, int(len(files) * ratio)) # 每个批次按比例抽尾部样本进验证集 val_files files[:n_val] train_files files[n_val:] os.makedirs(train_dir, exist_okTrue) os.makedirs(val_dir, exist_okTrue) for f in train_files: shutil.copy(os.path.join(img_dir, f), os.path.join(train_dir, f)) for f in val_files: shutil.copy(os.path.join(img_dir, f), os.path.join(val_dir, f)) print(train:, len(train_files), val:, len(val_files))脚本的逻辑是先把全部图片按批次前缀分组再在每一个批次内部按 20% 的比例抽验证样本而不是把整个数据集混合后随机切。这样保证每个批次都有少量样本进入验证集又不会让同一个批次的图像同时出现在两边。参数上ratio 可以根据类别数量和总图量调整如果某些批次只有一两张图max(1, ...) 会保证它至少有一张进验证集避免出现“某批次完全没被验证”的盲区。如果文件名里没有批次前缀退而求其次的做法是按文件名的哈希值取模分组。比如bucket hash(f) % 5把图片分成 5 桶选其中 1 桶做验证。这不是最优解但至少能避免按时间排序后前 80% 是某一光照条件下的图像这种更隐蔽的偏差。3.2 VOC 格式转 YOLO坐标换算与越界钳制不少带标签的缺陷数据集原始标注是 VOC 格式而当前主流检测框架更习惯 YOLO 的 TXT 标注。转换脚本的核心就是把绝对像素坐标换算成归一化中心坐标import xml.etree.ElementTree as ET def voc_to_yolo(xml_path, txt_path, name_to_id): root ET.parse(xml_path).getroot() w_img int(root.findtext(size/width)) h_img int(root.findtext(size/height)) lines [] for obj in root.findall(object): name obj.findtext(name) if name not in name_to_id: # 出现未知类别时跳过而不是让脚本崩溃 print(未知类别:, xml_path, name) continue bnd obj.find(bndbox) xmin float(bnd.findtext(xmin)) ymin float(bnd.findtext(ymin)) xmax float(bnd.findtext(xmax)) ymax float(bnd.findtext(ymax)) # 越界坐标钳制到图像范围内避免后续训练产生负数 xmin max(0, min(xmin, w_img)) xmax max(0, min(xmax, w_img)) ymin max(0, min(ymin, h_img)) ymax max(0, min(ymax, h_img)) xc (xmin xmax) / 2 / w_img yc (ymin ymax) / 2 / h_img w (xmax - xmin) / w_img h (ymax - ymin) / h_img lines.append(f{name_to_id[name]} {xc:.6f} {yc:.6f} {w:.6f} {h:.6f}) with open(txt_path, w) as f: f.write(\n.join(lines))这段代码的逻辑是从 XML 中读取整图尺寸和每个框的角点坐标算出中心点和宽高后分别除以图像宽高得到 0 到 1 之间的归一化值。分母必须用整图宽高而不是某个裁剪 patch 的宽高这是新手最容易出错的地方——一旦用了错误的分母所有框的位置都会偏移。参数上name_to_id 是一个字典例如{scratch: 0, pit: 1}它决定了 TXT 里第一列的整数编号。这个字典必须在转换脚本和训练配置里保持一致否则会出现“训练时 0 号是划痕转换时 0 号是麻点”的错位训练过程不报错但单类指标彻底错乱。转换后的目录结构我一般整理成steel_defect/ ├── images/ │ ├── train/ │ └── val/ ├── labels/ │ ├── train/ │ └── val/ └── steel_defect.yamlTXT 文件和图片放在不同的目录树里靠同名前缀关联这是检测框架的通用约定。3.3 类别映射与数据集配置用脚本生成 YAML不要手填训练前最后一个容易翻车的点是 YAML 配置里的 names 顺序和转换脚本里的 name_to_id 不一致。很多人喜欢手写 YAML写完觉得自己记得很清楚等训练完去分析 bad case 时才发现类别名对不上号。我现在的习惯是用脚本生成配置让顺序永远只在一个地方定义import yaml # 这个列表的顺序必须和第2章统计到的类别清单一致 names [scratch, pit, hole] config { path: /home/user/steel_defect, train: images/train, val: images/val, nc: len(names), names: {i: n for i, n in enumerate(names)}, } with open(steel_defect.yaml, w, encodingutf-8) as f: yaml.safe_dump(config, f, allow_unicodeTrue)这段脚本的逻辑是用一个 Python 列表统一管理类别顺序然后自动生成 YAML 文件。names 列表里第几个元素转出来的 TXT 里那个编号就代表哪一类训练框架读 YAML 时也会把 names 里的同一顺序拿去做类别显示。这样只要维护一个列表就不会出现两边各写一套顺序的问题。还有一个细节类别名尽量不要用中文。虽然现代框架能显示中文但终端日志、bad case 可视化、TensorBoard 路径里一旦混入中文很多处理脚本会遇到编码报错。用英文短标识符最省事真需要中文展示可以放到后处理阶段再映射。4. 用迁移学习跑通第一个钢铁表面缺陷检测基线训练参数与收敛判断数据准备好了接下来进入模型训练。1800 张图对目标检测来说属于中小规模直接从头训练一个深度卷积网络并不是好选择。我一般会直接用预训练检测权重做微调把前几层的边缘、角点、纹理响应作为先验知识保留下来只针对钢铁表面缺陷做最后的特征适配。4.1 为什么不从零训练小数据集的收敛诅咒从零训练意味着模型要自己学会“什么是边缘、什么是纹理组合、什么是表面与缺陷的边界”这些通用视觉概念。1800 张训练图不足以支撑这样的泛化结果往往是前 60 轮 loss 下不去后 60 轮勉强下降又开始过拟合最终验证指标惨不忍睹。迁移学习则不同预训练权重已经具备很强的局部特征提取能力钢铁缺陷虽然在像素统计上和自然图像差异巨大但划痕本质上是边缘响应麻点是角点和斑块响应这些底层模式恰恰是预训练模型最擅长的。有一个常见误区是“缺陷图像和预训练图像差异太大迁移没用”。我实际跑下来的感受是差异大的是颜色、光照和纹理分布不变的是局部梯度结构迁移学习不是把“看猫看狗”的知识硬搬到钢板上而是把底层卷积核的响应方式迁移过来这正是小样本场景最需要的。4.2 训练命令与关键参数从 nano 模型起手以当前检测框架的命令行为例我一般用 nano 规格的模型起手参数这样设置yolo detect train \ datasteel_defect.yaml \ modelyolov8n.pt \ epochs120 \ imgsz640 \ batch16 \ lr00.005 \ lrf0.1 \ optimizerAdamW \ patience30 \ close_mosaic15各参数的取值逻辑如下表参数推荐值理由imgsz640平衡算力与缺陷分辨率显存不足可以降到512batch161800张规模不需要大batch小样本下batch过大反而收敛不稳lr00.005比默认值低防止起步阶段loss震荡close_mosaic15最后15轮关闭mosaic增强让模型适应真实缺陷尺度patience30验证指标连续30轮不涨则早停节省算力这里要特别解释 close_mosaic 这个参数。mosaic 增强把四张图拼在一起对小目标检测很有效但钢铁表面缺陷是强纹理、弱对比度的目标拼接边缘会产生大量伪边界如果一直用到训练结束模型会学到“图块拼接处的折痕也是缺陷”。所以我习惯在最后十几轮关掉它让模型回到真实分布上微调。训练中的另一个建议是先从 nano 起手跑通全流程并确认指标没有结构性问题后再换 small 规格继续微调。直接上最大模型在小数据集上几乎必然过拟合这不是模型能力问题是样本量撑不起那么多参数。4.3 训练过程监控val 指标比 train 指标诚实得多训练开始后我只看两类东西验证集的 loss 曲线和验证集的 mAP 曲线训练集 loss 基本只用来判断“有没有炸”。如果 train/loss 稳定下降但 val/box_loss 后期上升这是过拟合的典型信号如果 val/mAP50 一直横盘不动先检查学习率是否太大再检查数据划分是否出了问题。监控命令很简单把训练日志存下来方便事后回溯yolo detect train datasteel_defect.yaml modelyolov8n.pt epochs120 \ imgsz640 batch16 21 | tee train.log训练结束后查看每个类别的指标grep -E Class|all train.log | tail -5注意输出里 mAP50 和 mAP50-95 的区别。mAP50 对框的位置误差容忍度较高适合快速判断“目标有没有被找到”mAP50-95 对框的精确位置很敏感钢铁表面缺陷边缘模糊框很难和人工标注完美对齐所以这个指标通常偏低。在小缺陷占比高的数据集上我更关注 mAP50 和 recall而不是总 mAP50-95。因为漏检的代价远大于误检模型宁可多框一点背景也不能放过一个真实缺陷。评估时如果 recall 偏低先别急着调参回到第 2 章看看是不是标签漏标太多。5. 小样本缺陷检测避坑1800张图常翻车的五个现场这章是血泪经验。1800 张图的数据集模型结构反而好定真正难的是数据侧那些反反复复的坑。我把最常见的五个翻车现场按“现象—原因—解决”写清楚每个都对应一个能落地的检查动作。5.1 验证集虚高但现场拉胯划分不够隔离现象训练不到 20 轮验证集 mAP50 已经冲到 0.9换到另一组新采集图像上直接掉到 0.5 以下。这种“训练时封神、测试时翻车”的情况在小数据集上几乎都能归因到同一件事验证集和训练集长得太像了。原因随机划分把同一批次、同一钢卷拍摄的相邻图像同时分进了训练集和验证集。钢板的表面纹理高度相似模型记住背景纹理就能在验证集上拿高分但它并没有真正学到缺陷的泛化特征。解决回到第 3 章的按批次分组划分把同一个采集批次的所有图像放进同一个集合。如果原始数据没有批次信息至少用文件名哈希分桶并保留每次划分的哈希种子和文件清单方便追溯。5.2 类别严重倾斜少数类被多数类彻底绑架现象训练结束后某一类缺陷的 AP 接近 0.9另一类只有 0.2无论怎么调学习率、换模型都拉不起来。看类别统计才发现多数类和少数类的框数比可能接近 10:1。原因目标检测的损失由所有类别的样本共同贡献大头类别在梯度里占绝对主导小类缺陷的梯度被淹没。这不是模型偏心是优化目标天然向多数类倾斜。解决先做类别维度的重采样。最简单的方法是手动复制少数类样本到训练目录但要控制复制倍数否则会引入重复过拟合更稳妥的做法是调整类别损失权重把少数类的分类权重调高。我还会对少数类做同类拼接增强把几个只含少数类缺陷的裁剪图拼成一张训练图这样既增加了样本量又不会让模型记住某一个固定样本。5.3 小缺陷全部漏检mAP50-95 常年上不去现象mAP50 看着还行但凡是细裂纹、小麻点这类目标十有八九漏检。可视化 bad case 发现这些目标在 640x640 的图像上只有十几个像素宽经过网络多次下采样后特征图上的响应已经弱到几乎消失。原因缺陷目标太小占原图面积比例过低常规训练时模型根本没有足够的像素信息来区分它和背景纹理。解决我一般做两件事。第一把含小缺陷的区域切块放大到 640x640作为第二份训练数据让模型在小尺度下看过完整的缺陷形态第二推理时不做整图一次推断而是把原图切块后分别推理再把结果拼回原坐标。注意训练和推理的切块方式要保持一致否则模型面对的尺度分布变了指标会再次崩掉。对这类小目标别指望调 anchor 参数玄学解决得从输入尺度入手。5.4 数据增强过度钢铁表面出现“伪缺陷”现象训练时验证指标一直抖动loss 迟迟不收敛。打开增强后的训练图才发现钢板的平整表面上多出大量五颜六色的条纹和光斑模型正把这些“伪缺陷”当成学习目标。原因很多通用检测配置默认开启 HSV 颜色扰动和旋转增强这对自然图像没问题但钢铁表面有强烈的金属反光色调扰动会被放大成夸张的色带90 度旋转则会制造出原本不可能出现的缺陷方向。解决关闭色相和饱和度增强只保留轻微的亮度扰动旋转只用水平翻转不要做 90 度旋转和随机旋转因为钢板上的划痕有明确的方向性旋转会破坏真实缺陷的形态分布。mosaic 增强也要谨慎如果训练指标持续抖动先关掉 mosaic 对比一轮很多时候问题就在它身上。5.5 标签噪声框的边界和缺陷边缘对不齐现象模型训练得很稳定但逐个看 bad case 时发现预测框总是比标签框大一圈或者小一圈交并比始终差一点AP 上不去。原因钢铁缺陷的边缘本身是渐变的标注员对“哪里是缺陷边界”的判断不一致有人喜欢框紧一点有人喜欢框松一点。这种系统性的框偏移不会让训练崩溃但会把模型对框尺寸的预测拉偏。解决抽 150 张图做可视化复核如果发现大量松框可以对标签框做一次轻微收缩按中心点向内收缩 3% 到 5%。注意不要用自动收缩工具做批量处理因为不同缺陷的边界清晰度差异很大收缩比例必须由人工抽检确认后再统一执行。标签问题属于数据质量问题模型再调参也补不回来。6. 判断数据集值不值得用的关键动作做一次5折交叉验证并回注Bad Case单次划分的验证指标有一定偶然性要想判断这套 1800 张的数据集真正值不值得投入我会再做一次 5 折交叉验证。做法是把全部数据按文件名哈希取模分成 5 份每次用 4 份训练、1 份验证跑 5 次小模型训练最后记录每类 AP 的均值和标准差。验证内容动作判断依据整体稳定性5 折的 mAP50 均值均值低于预期则回数据侧查标签类别稳定性每个类别 5 折 AP 的标准差标准差超过 0.08说明该类样本分布或标签质量有问题漏检回注挑出置信度低于 0.25 的预测框确认漏标则修正标签后重新训练如果某个类别的 AP 标准差明显偏大说明这个类别的样本在 5 份数据里分布不均衡可能某些批次的光照条件完全不同这时候先不要换模型而是回到第 2 章的抽检流程找出是哪一批图像把指标拉低的。5 折交叉验证在小数据集上是最划算的“后悔药”它只需要多训练 4 次却能把单次划分的运气成分暴露出来。训练结束后我会把每折验证集里漏检的图像翻一遍确认是标签漏标还是目标太小。如果确认是漏标直接把修正后的标签补进训练集如果确认是目标太小则按第 5.3 节做切块推理。这套“先质检、再交叉验证、最后回注坏例”的习惯是我处理小样本缺陷检测项目时最值得坚持的动作。希望帮到你。本文还有配套的精品资源点击获取
