上个月有个做设备运维的团队找我说他们攒了三年的传感器数据想用 ANN 做预测结果卡在一个特别基础的地方同一个 MLP 结构有人拿去预测温度数值有人拿去做会不会故障的判断还有人要区分五种运行状态。代码写出来之后全乱套了——回归任务的输出层套了 Softmax二分类的损失函数配了两个输出节点多分类又把标签喂成了连续值。这不是什么玄学问题是三条不同的技术路线被硬塞进了一个模板里。MLP 的骨架确实可以共用但从输出层往下回归预测、二分类预测、多分类预测这三件事的数学假设、损失函数、评估口径、后处理方式几乎没有一处是相同的。这篇东西就是把我这几年用 MLP 跑这三类预测任务的完整思路摊开讲为什么这么配、参数怎么算、训练过程怎么盯、出问题怎么查。适合已经能跑通一个 hello-world 级别神经网络、但一到真实数据就心里没底的读者也适合那些手上有表格型数据、正在纠结要不要上神经网络的从业者。1. 三种预测任务为什么要分开设计1.1 回归、二分类、多分类在数学上的真实差异很多人把这三类任务理解成输出维度不同这个理解是片面的。真正的差异在于我们对目标变量 y 的分布假设不同。回归任务里我们假设给定输入 x 之后y 服从一个连续分布最常见的是高斯分布均值由网络输出决定方差固定二分类任务里y 服从伯努利分布网络输出的是正类概率这一个标量多分类任务里y 服从类别分布网络输出的是 C 个类别上的概率向量。这个视角一旦建立起来很多设计就顺理成章了。最小二乘损失其实就是高斯分布假设下的负对数似然二元交叉熵就是伯努利分布的负对数似然多类交叉熵就是类别分布的负对数似然。换句话说这三件事在概率语言下是同一件事——估计条件分布 p(y|x)只是 y 的取值空间换了。这也是为什么 MLP 能共用骨架前半部分做的是特征变换 φ(x)后半部分接的是一个广义线性模型的输出头。我用组装电脑来类比可能更好懂。前面的隐藏层是主板和 CPU属于通用算力输出层是接口回归任务要的是模拟信号接口分类任务要的是数字接口接口换错了主板再强也没用。所以每次开始一个新任务我第一件事不是调网络深度而是先把y 是什么类型、我要输出几个数、每个数代表什么这三句话写清楚写在代码最上方的注释里。还有一个容易被忽略的点三者的评估逻辑也完全不同。回归看的是误差的量级和分布所以要关注 MAE、RMSE、R²还要看残差有没有系统性偏差二分类关心的是在某个决策阈值下的查准查全所以要盯 ROC-AUC、PR-AUC 和阈值扫描曲线多分类关心的是类别之间的混淆结构所以宏平均、微平均、每一类的召回率都得单独看。用回归的 R² 去评价一个分类模型或者拿准确率去评价一个严重不平衡的二分类模型都是很典型的错误。1.2 输出层与损失函数对照一张表锁定配置下面这张表是我每次开新项目都会对照的基本覆盖了 90% 的场景。表格里输出激活一列要特别注意写错了不会报错但模型会以一种很难察觉的方式学歪。任务类型输出维度输出层激活损失函数标签格式主要评估指标回归预测1或多目标时 k无线性MSE / MAE / Huber连续浮点MAE、RMSE、R²、残差分布二分类预测1SigmoidBCEWithLogits0/1 整数PR-AUC、ROC-AUC、F1、KS多分类预测C类别数Softmax或不用交给损失CrossEntropy0..C-1 整数宏F1、各类召回、混淆矩阵两个实践细节值得单独拎出来说。第一PyTorch 里的BCEWithLogitsLoss和CrossEntropyLoss内部已经包含了 sigmoid/softmax 加 log 的数值稳定实现所以网络最后一层不要再接 sigmoid 或 softmax直接输出 logits否则等于算了两遍梯度会出问题。这个坑我见过太多人踩表现形式是训练一开始 loss 就卡在一个奇怪的数值上不动。第二回归任务如果目标值跨度很大比如从 0.01 到 10000直接上 MSE 会让大值样本主导梯度小值区域学不好这时候要么对 y 做 log 变换要么换成 Huber 损失要么先做分位数裁剪。我在一个能耗预测的模拟项目里就吃过这个亏原始数据里有几台设备的读数比同类高出两个数量级模型学到最后只会预测那个大值其他设备全预测成了平均值附近。1.3 什么情况下该用 MLP什么情况下别硬上这里必须说清楚边界不然容易走弯路。MLP 的优势在于输入是稠密的数值向量、特征之间存在复杂的非线性交互、样本量足够大通常几万条以上才算舒服、并且数据没有明显的空间或序列结构。它不擅长的是纯表格数据里类别特征占主导梯度提升树往往更省事也更准、样本量很小几千条以内正则调不好就过拟合、以及需要强可解释性的场景。我个人的判断顺序是这样的先跑一个逻辑回归或者线性回归做基线再跑一个梯度提升树如果树模型明显更好而且调不动了再考虑 MLP。反过来如果数据本身就是高维稠密向量比如经过嵌入处理的文本特征、图像降维特征、多传感器融合特征那 MLP 往往是第一选择因为树模型在高维稠密空间里的分裂效率会下降。还有一类场景是 MLP 特别合适的多任务输出。比如同一个网络同时预测未来一小时的温度回归和是否会触发告警二分类共享底层特征提取上层分两个头各自用自己的损失函数总损失加权求和。这种结构在工业场景里非常常见因为一次前向就能拿到两类结果部署成本低。后面的章节我会具体讲这种多头的损失权重怎么定。2. MLP 结构拆解与关键参数怎么定2.1 输入特征处理标准化这件事真的别偷懒神经网络的训练对输入尺度非常敏感这不是最好做一下的建议而是必须做。原因很直接权重更新量正比于输入值乘以梯度如果一个特征的范围是 0 到 1另一个是 0 到 100000那第二个特征对应的权重梯度会大五个数量级优化器根本没法用同一个学习率同时照顾两者。表现出来就是 loss 剧烈震荡或者直接变成 NaN。数值特征我一般用两种方式标准化减均值除标准差适合近似正态分布的特征归一化到 [0,1] 或者用分位数变换适合长尾分布的特征。关键的坑在于统计量必须只用训练集算验证集和测试集要用训练集的均值和方差去变换。我见过有人在全量数据上 fit 了 StandardScaler 再切分线下指标漂亮得不像话上线就崩这就是典型的数据泄漏。类别特征的处理要看基数。基数小于 20 的one-hot 就够了基数大的比如设备编号、地区编码我倾向于用嵌入层Embedding把每个类别映射成一个 8 到 32 维的稠密向量让网络自己去学类别之间的关系。这比 one-hot 省参数也比目标编码安全目标编码很容易泄漏。缺失值不要简单填 0因为 0 在标准化之后往往是有意义的数值我的做法是加一个缺失指示列然后用中位数或者均值填充让模型自己判断这列缺失是不是一个信号。2.2 隐藏层宽度和深度从参数量倒推这块网上说法很多我给一个能落地的推导方式先估算你想要的参数量再反推结构。一个全连接层的参数量是输入维度 × 输出维度 输出维度。假设输入 40 维第一层 128第二层 64输出 1那么参数总量是40×128128 128×6464 64×11 512012881926465 13569大约 1.4 万个参数。经验法则是参数量控制在样本量的 1/10 到 1/2 之间比较稳。如果你只有 5000 条样本1.4 万参数就明显偏多了需要加正则或者缩窄网络如果有 50 万条样本这个规模反而偏小可以往上加。这个比例不是铁律但作为起点比拍脑袋强。深度方面我用得最多的是 2 到 3 个隐藏层。表格型数据上深度超过 4 层带来的收益非常有限反而训练更难。宽度上第一层宽一些128 到 256后面逐层收窄64、32形成一个漏斗这在实践中比等宽结构更稳。如果特征维度特别高比如 500 维以上第一层可以直接从 64 起先把维度压下来。还有个小技巧如果你发现模型怎么调都欠拟合先加宽度而不是加深度因为宽度增加的参数量是线性的深度增加是复合的调起来更可控。2.3 激活函数、归一化与 Dropout 的搭配顺序激活函数这块隐藏层我现在基本只用 ReLU 和 GELU。ReLU 便宜、稀疏性好是默认选择GELU 更平滑在某些回归任务上收敛更稳代价是稍慢。Sigmoid 和 Tanh 在隐藏层里已经很少用了主要问题是梯度饱和深层网络里几乎必踩。归一化层的选择要看你有没有用 BatchNorm。BatchNorm 放在线性层之后、激活之前能显著加速收敛但它对 batch size 敏感batch 小于 16 的时候统计量噪声很大效果会打折。这种情况我改用 LayerNorm虽然在小网络上收益没那么明显但至少稳定。有一个细节要注意如果用了 BatchNorm推理时一定要切换到 eval 模式否则会继续用当前 batch 的统计量导致同一个样本两次预测结果不一样。Dropout 放在激活之后位置不要搞错。丢弃率的话宽层用 0.2 到 0.3窄层用 0.1 到 0.2输入层如果特征噪声大可以加 0.1。有一点我在实践中反复验证过Dropout 和 BatchNorm 同时用的时候如果 Dropout 比率太高超过 0.4训练会变得非常不稳定因为 BN 的统计量被 Dropout 打乱了。这种情况下我宁可降 Dropout改用权重衰减来控制过拟合。2.4 学习率、批大小与优化器的联动关系优化器我默认用 Adam学习率从 1e-3 起。AdamW 和 Adam 的差别在于权重衰减的实现方式如果你要做较强的 L2 正则用 AdamW 更正确因为 Adam 的 L2 会被自适应学习率缩放掉效果打折扣。批大小和学习率是要联动的。经验规则是批大小翻倍学习率大致也翻倍线性缩放但这条规则在批大小超过 1024 之后开始失效需要用平方根缩放。实际配置我一般是这样的样本量在几万级别用 batch 64 或 128学习率 1e-3样本量几十万可以用 256 或 512学习率 2e-3 到 3e-3同时加一个 3 到 5 个 epoch 的 warmup让学习率从很小线性升到目标值避免一开始就把权重带偏。还有一点很容易忽视验证集上的 loss 如果出现周期性抖动八成是 batch size 太小导致的梯度噪声把 batch 调大一倍往往就平了。3. 三类预测任务的完整实现流程3.1 回归预测从数据清洗到残差诊断回归任务我最看重的不是最终指标而是残差的结构。一个 RMSE 很低的模型如果残差和某个特征呈现明显的 U 型关系说明模型没学到这块的非线性只是被平均值掩盖了。直接给一段可复现的骨架代码用 PyTorch 写数据部分用合成的方便你换上自己的数据直接跑import numpy as np import torch import torch.nn as nn from torch.utils.data import DataLoader, TensorDataset from sklearn.preprocessing import StandardScaler from sklearn.model_selection import train_test_split from sklearn.metrics import mean_absolute_error, r2_score # 1) 构造模拟数据40 维特征目标为连续值 rng np.random.default_rng(42) X rng.normal(size(20000, 40)) true_w rng.normal(size40) y X true_w 0.5 * np.sin(X[:, 0] * 3) rng.normal(scale0.3, size20000) y np.exp(y / 5) # 制造长尾模拟真实场景 X_tr, X_te, y_tr, y_te train_test_split(X, y, test_size0.2, random_state0) # 2) 目标变换长尾目标先取对数训练完再逆变换 y_tr_log np.log1p(y_tr) y_te_log np.log1p(y_te) # 3) 特征标准化统计量只用训练集 scaler StandardScaler().fit(X_tr) X_tr_s scaler.transform(X_tr).astype(np.float32) X_te_s scaler.transform(X_te).astype(np.float32) train_ds TensorDataset(torch.from_numpy(X_tr_s), torch.from_numpy(y_tr_log.astype(np.float32)).unsqueeze(1)) test_ds TensorDataset(torch.from_numpy(X_te_s), torch.from_numpy(y_te_log.astype(np.float32)).unsqueeze(1)) train_dl DataLoader(train_ds, batch_size128, shuffleTrue) test_dl DataLoader(test_ds, batch_size512) # 4) 网络结构漏斗形输出层不加激活 model nn.Sequential( nn.Linear(40, 128), nn.ReLU(), nn.Dropout(0.2), nn.Linear(128, 64), nn.ReLU(), nn.Dropout(0.2), nn.Linear(64, 32), nn.ReLU(), nn.Linear(32, 1) ) opt torch.optim.AdamW(model.parameters(), lr1e-3, weight_decay1e-4) crit nn.HuberLoss(delta1.0) # 对异常值不敏感 for epoch in range(60): model.train() for xb, yb in train_dl: opt.zero_grad() loss crit(model(xb), yb) loss.backward() opt.step() model.eval() preds [] with torch.no_grad(): for xb, _ in test_dl: preds.append(model(xb).numpy()) pred_log np.concatenate(preds).ravel() # 5) 逆变换回原始尺度再评估这一步千万别忘 pred np.expm1(pred_log) print(MAE:, mean_absolute_error(y_te, pred)) print(R2 :, r2_score(y_te, pred)) # 6) 残差诊断看残差和预测值、和关键特征的关系 resid y_te - pred print(残差均值:, resid.mean(), 残差标准差:, resid.std())这段代码里有几个刻意的设计值得说明。第一我用了 Huber 而不是 MSE因为长尾数据里少数极端值会把 MSE 的梯度带跑偏Huber 在残差超过 delta 之后变成线性相当于自动降权。第二目标做了 log1p 变换训练完必须 expm1 逆变换回原始尺度很多人直接拿 log 尺度的预测值去算指标结果 MAE 看起来小得离谱实际上毫无意义。第三也是最重要的一点残差分析不能只看均值和标准差要画散点看结构。残差诊断我是这么做的先看残差对预测值的散点理想情况是围绕 0 均匀分布的带状如果出现喇叭形预测值越大残差越大说明异方差性明显模型在高值区域不够准可以考虑对目标做加权或者直接建模 log如果出现弧形说明模型漏掉了二次项关系加一层或者加特征交互能救。再看残差对每个关键特征的散点找到有明显趋势的那个特征那就是下一步该重点做特征工程的地方。3.2 二分类预测不平衡处理和阈值选择是重头戏二分类最容易出问题的地方不是模型结构而是正负样本比例和决策阈值。真实业务里正类往往只占 1% 到 5%这时候准确率这个指标基本等于废话——全预测成负类也能有 95% 的准确率。我在处理不平衡时会按顺序试三种手段从轻到重第一种是给损失加pos_weight等于负样本数除以正样本数PyTorch 的 BCEWithLogitsLoss 直接支持第二种是过采样正类或者欠采样负类但要只在训练集上做验证集保持原始分布第三种是改用 Focal Loss让模型聚焦在难分类样本上。我一般从第一种开始因为它改动最小而且不影响数据分布。阈值的选择我从来不取默认的 0.5而是在验证集上扫一遍。做法是从 0.05 到 0.95 以 0.01 为步长计算每个阈值下的 F1选出最优的那个然后在测试集上验证。如果业务对漏报特别敏感比如故障预警那就把阈值往低处压宁可多报几个误报也不能漏如果对误报敏感比如自动拦截就往上调。这里的关键是阈值要作为模型的一部分一起交付不能只给概率让下游自己猜。import torch.nn as nn from sklearn.metrics import precision_recall_curve, average_precision_score # 正负样本比例约 1:20用 pos_weight 补偿 pos_weight torch.tensor([20.0]) crit nn.BCEWithLogitsLoss(pos_weightpos_weight) # ... 训练循环同上只是标签是 0/1 浮点 ... # 阈值扫描用验证集找最优点 model.eval() probs, labels [], [] with torch.no_grad(): for xb, yb in val_dl: probs.append(torch.sigmoid(model(xb)).numpy().ravel()) labels.append(yb.numpy().ravel()) probs np.concatenate(probs) labels np.concatenate(labels) best_t, best_f1 0.5, 0.0 for t in np.arange(0.05, 0.96, 0.01): pred (probs t).astype(int) tp ((pred 1) (labels 1)).sum() fp ((pred 1) (labels 0)).sum() fn ((pred 0) (labels 1)).sum() f1 2 * tp / (2 * tp fp fn 1e-9) if f1 best_f1: best_t, best_f1 t, f1 print(最优阈值:, round(best_t, 2), 验证集F1:, round(best_f1, 4)) print(PR-AUC:, round(average_precision_score(labels, probs), 4))评估指标上不平衡场景我首选 PR-AUC也就是平均精度它比 ROC-AUC 更能反映正类的识别质量因为 ROC 的横轴假正率在负样本极多时会被稀释看起来总是很漂亮。另外把 PR 曲线画出来和业务方一起看我要在 80% 召回下接受多少精确率比争论模型好坏有效得多。3.3 多分类预测标签编码、类别权重与混淆矩阵复盘多分类的坑主要是两个标签编码搞错和类别不平衡被忽略。标签必须是从 0 开始的连续整数PyTorch 的 CrossEntropyLoss 会用它们做索引。如果你的标签是字符串或者从 1 开始一定要先用 LabelEncoder 转换并且保存这个编码器否则上线时预测出来的类别对不上号。这个问题我见过不止一次模型指标很好上线后所有预测都错位一类。类别不平衡在多分类里同样存在CrossEntropyLoss 支持传weight参数权重可以按类频率的倒数来定也可以按平方根的倒数来定后者更温和。我给个具体算法假设三类的样本数分别是 8000、1500、500总样本 10000那么按倒数计算的权重是[10000/(3*8000), 10000/(3*1500), 10000/(3*500)] [0.417, 2.22, 6.67]。除以 3 是为了让权重均值为 1避免整体损失尺度被放大。评估上除了整体准确率必须看混淆矩阵和每一类的召回。宏平均 F1 对少数类更公平微平均对多数类更敏感。我一般两个都报同时把混淆矩阵可视化出来特别关注哪两类之间最容易混——这往往能直接指向特征工程的改进方向。比如在设备状态分类里如果预热和正常两类经常互相混淆说明当前特征里缺少区分温度上升趋势的时序信息。import torch.nn as nn # 三类样本数 8000/1500/500 class_w torch.tensor([0.417, 2.22, 6.67], dtypetorch.float32) crit nn.CrossEntropyLoss(weightclass_w) # 网络最后一层输出类别数不接 softmax model nn.Sequential( nn.Linear(40, 128), nn.ReLU(), nn.Dropout(0.2), nn.Linear(128, 64), nn.ReLU(), nn.Linear(64, 3) ) # 推理时取 argmax 得到类别 with torch.no_grad(): logits model(xb) pred_cls torch.argmax(logits, dim1)3.4 参数量、显存与阈值的计算示例很多人调结构凭感觉其实几个关键量都能算出来。我用上面的网络举个例子。第一层40×128128 5248第二层128×6464 8256输出层64×33 195总参数 13699约 1.37 万。每个 float32 参数占 4 字节权重的显存占用约 54.8 KB。但训练时的显存远不止这些Adam 要为每个参数存一阶动量 m 和二阶动量 v再加上参数本身的梯度总共是 4 份约 219 KB。除此之外每个 batch 的中间激活值也要占显存假设 batch 128中间激活主要集中在 128×128 这一层约 16384 个 float64 KB乘上要保留梯度的层数总共也就几百 KB。所以这个小模型在 CPU 上都能跑GPU 显存根本不是瓶颈。真正吃显存的是大 batch 加宽层。假设你把第一层改成 1024 宽输入还是 40那就是40×10241024 41984参数激活值变成 128×1024 131072 个 float512 KB。如果 batch 提到 4096激活就是 16 MB 一层这时候显存才开始有意义。再看样本量估算。前面说过参数量控制在样本量的 1/10 到 1/2。1.37 万参数对应 2.7 万到 13.7 万样本比较合适。你手上只有 5000 条那得把参数压到 500 到 2500 之间对应网络大概就是40→32→16→3参数量40×3232 32×1616 16×33 12803251216483 1891刚好落在区间内。阈值计算也有个实用方法。假设验证集 2000 条正类 100 条你希望召回至少 85%那就需要至少抓到 85 个正类。把所有样本按预测概率降序排列从前到后累加正类个数数到第 85 个正类时当前这条的概率就是阈值上限。这个方法比网格搜索更直接地对应业务目标我在实际项目里更常用。4. 训练过程监控与调参实录4.1 损失曲线的四种形态该怎么读训练曲线是最直接的信息源但很多人只看降没降。我把常见的曲线形态归成四类每类对应不同的处理动作。第一种训练损失和验证损失同步平滑下降最后双双走平——这是最理想的情况说明模型容量和数据量匹配可以停了。第二种训练损失一直降验证损失先降后升形成明显的 U 型——典型过拟合对策见下一节。第三种训练损失震荡剧烈验证损失跟着乱跳——通常是学习率太大或者 batch 太小先把学习率除以 3 试试。第四种训练损失降得很慢验证损失一开始就高于训练损失很多——这是欠拟合加分布偏移要么模型太小要么训练集和验证集的切分方式有问题比如按时间切分但特征里有未来信息。我习惯在训练时同时记录训练损失每个 epoch 平均和验证损失并且用同一套评估逻辑——训练时的损失是带 Dropout 的验证时是 eval 模式两者不完全可比所以我在每个 epoch 结束时也跑一遍训练集前向eval 模式算一次干净的训练损失这样对比才有意义。这个细节很多人忽略导致误判训练损失比验证低很多就是过拟合其实只是 Dropout 造成的假象。4.2 过拟合的四种信号和对策优先级过拟合不只是验证损失上升这一个信号。我总结了四个更早出现的征兆训练损失在 10 个 epoch 内就降到很低比如 MSE 降了两个数量级而验证损失还在缓慢下降这是容量过剩的早期信号训练集和验证集的指标差距超过 15%且差距随 epoch 单调扩大权重范数快速增大可以记录每层权重的 L2 范数涨得快的层就是过拟合最严重的Dropout 打开和关闭时预测结果差异很大说明模型对特定神经元依赖过强。对策的优先级我一般这样排先加数据增强或者扩充样本最有效但成本最高再降模型容量缩窄宽度、减少层数然后加正则权重衰减、Dropout 比率最后才是早停。很多人反着来一上来就早停结果模型还没学充分就被砍掉了。早停的本质是在过拟合发生前停下来它是兜底手段不是优化手段。4.3 早停和学习率调度的具体配置早停我用的判据是验证损失patience 设为 10 到 15 个 epoch同时保存验证损失最好的那组权重。这里有个细节恢复最佳权重时优化器状态要不要一起恢复我的做法是只恢复模型权重优化器重新初始化因为继续训练的很少没必要保存动量状态反而会占用额外内存。学习率调度我用 ReduceLROnPlateaufactor 0.5patience 5min_lr 1e-6。意思是验证损失连续 5 个 epoch 没改善就把学习率减半最低到 1e-6。这个策略比固定步长衰减更自适应缺点是如果验证损失噪声大会误触发降学习率所以验证集不能太小至少 1000 条以上才稳。scheduler torch.optim.lr_scheduler.ReduceLROnPlateau( opt, modemin, factor0.5, patience5, min_lr1e-6 ) best_val float(inf) bad_epochs 0 best_state None for epoch in range(200): train_loss run_one_epoch(model, train_dl, opt, crit, trainTrue) val_loss run_one_epoch(model, val_dl, None, crit, trainFalse) scheduler.step(val_loss) if val_loss best_val - 1e-6: best_val val_loss best_state {k: v.clone() for k, v in model.state_dict().items()} bad_epochs 0 else: bad_epochs 1 if bad_epochs 15: print(f早停于 epoch {epoch}最佳验证损失 {best_val:.4f}) break model.load_state_dict(best_state)这里run_one_epoch需要自己实现训练模式下调model.train()并反向传播验证模式下调model.eval()并用torch.no_grad()包住。三种预测任务共用这套训练框架只需要换损失函数和输出维度这也是我前面强调骨架共用、头部差异化的落地体现。5. 常见问题与排查速查表5.1 损失不下降的三条排查路径这个问题我被问得最多。排查顺序我固定为数据 → 模型 → 优化。数据层面先查三件事标签和特征的对应关系有没有错位把 CSV 读进来之后随机抽三行人工核对这一步能抓到 30% 的问题特征里有没有 NaN 或者无穷大np.isnan(X).sum()一行就能看标准化是不是用错了统计量。模型层面查输出层配置对不对回归有没有误加激活分类有没有漏掉 argmax。优化层面查学习率是不是太大把学习率除以 10 再试一轮如果 loss 开始下降就说明是这个问题。如果三样都排除了还有一个隐蔽原因数据本身没有可学习信号。我碰到过一个模拟项目特征和目标其实是随机生成的怎么调都不收敛最后发现是数据生成脚本的随机种子写错了目标和特征完全无关。这种情况下正确的做法是承认它而不是继续调参。5.2 指标虚高的数据泄漏识别线下指标好得离谱比如 AUC 0.99 以上第一反应应该是查泄漏而不是庆祝。常见的泄漏点有四个在切分之前做了标准化或者特征选择用未来数据构造了特征时序场景高发目标编码没有做折外处理样本之间有重复或者高度相似同一个设备的相邻时间窗被分到了训练集和测试集。识别方法有个简单粗暴的把某个可疑特征单独拿出来做单变量预测如果它一个特征的 AUC 就有 0.95那基本可以确定是泄漏。另外如果模型的重要特征里出现了一个业务上不应该这么强的字段比如维修记录编号预测是否故障也要警惕。5.3 复现性随机种子和确定性设置深度学习结果不可复现是很常见的困扰。要点是Python 的 random、NumPy、PyTorch 三个都要设种子DataLoader 的 worker 也要设如果用 GPU还要开确定性模式。设完之后结果能复现到小数点后几位但完全一致需要关掉一些非确定性算子会牺牲一点速度。import random, numpy as np, torch def set_seed(seed42): random.seed(seed) np.random.seed(seed) torch.manual_seed(seed) torch.cuda.manual_seed_all(seed) torch.backends.cudnn.deterministic True torch.backends.cudnn.benchmark False最后一个提醒即使种子固定不同硬件、不同 PyTorch 版本之间的结果也可能有微小差异这是浮点累加顺序导致的不要为了追平这几位小数耗费时间。现象最可能原因快速验证处理loss 变 NaN学习率过大 / 输入未标准化学习率除以 10 重跑加梯度裁剪 max_norm1.0验证指标远高于预期数据泄漏单特征预测测试重做切分与特征管线训练损失不降输出层配错 / 标签错位人工核对三行样本修正输出维度与激活同一样本两次预测不同未切换 eval 模式检查 model.training推理前调 model.eval()少数类召回为 0类别极度不平衡看预测类别分布加 class_weight 或重采样早停后指标反而变差验证集太小噪声大扩大验证集用交叉验证选 epoch6. 三种预测任务落地时的几个实际考量6.1 输出后处理模型给的数不等于业务要的数模型输出的原始值往往不能直接用。回归任务要做逆变换log 变换要 expm1分位数裁剪要去掉极端值还要考虑业务约束——比如预测的库存量不能是负数预测的能耗不能低于设备待机功率这时候需要在输出后做 clip。分类任务要把 logits 转成概率再按预设阈值转成决策最后映射回业务标签LabelEncoder 的 inverse_transform。我尤其想强调回归的逆变换。如果你对目标做了 log 变换逆变换回来的预测值其实是对数正态分布的均值近似严格来说是有偏的偏差量级和残差方差有关大致是 exp(σ²/2) 倍。在精度要求高的场景可以用这个系数做修正在一般的业务场景这点偏差可以接受但心里要有数。另外多分类的置信度不能直接当概率用未经校准的网络往往过度自信预测 0.99 但实际准确率只有 0.85。如果业务需要可靠的概率输出要在验证集上做温度缩放校准也就是用一个标量温度参数去缩放 logits最小化验证集的负对数似然。6.2 上线后的监控要点模型上线不是终点。三类任务的监控重点不一样回归任务看预测分布的漂移预测值均值偏移超过训练集一两个标准差就该报警和实际误差的滚动均值二分类看正类预测比例的漂移以及一段时间后拿到真实标签时的召回变化多分类看类别分布的偏移和混淆矩阵结构的变化。我一般会存一份训练集的输出分布作为基线线上每天算一次当前窗口的输出分布用简单的分位数对比或者 KL 散度来监控。一旦发现输入特征的分布也漂了比如某个传感器读数范围变了那就要考虑重新训练而不是继续用旧模型。还有一个容易被忘掉的点模型版本和预处理管线必须绑定。标准化用的均值方差、LabelEncoder 的映射、阈值的取值这些都要和模型权重一起版本化存储。我吃过一次亏模型更新了但标准化参数没更新线上指标掉了一大截排查了半天才发现是预处理不一致。6.3 一些踩过的坑和后续可以试的方向说几个具体的教训。第一不要在样本量不足的时候迷信大网络我试过用 3000 条样本跑一个 5 层 512 宽的网络验证损失从头到尾都在抖换成 2 层 64 宽之后立刻就稳了。第二Dropout 不是万能的在特征本身就带噪声的场景加大 Dropout 反而让模型学不到有效信号,这时候加一点输入噪声高斯扰动效果更好。第三学习率调度不是必须的如果数据量小、训练轮数少20 个 epoch 以内固定学习率反而更可控调度器容易在还没收敛时就降了学习率。如果这三个任务你已经跑顺了后面可以往两个方向扩展一个是多任务联合训练把回归和分类的头挂在一个共享主干上损失加权求和权重按各任务损失的量级做归一化比如让每个任务的初始损失都在 1 附近另一个是给输出加不确定性估计回归用高斯负对数似然同时预测均值和方差分类用 MC Dropout 多次采样估计置信区间这对需要决策支持的场景很有价值。我自己在设备预警的模拟项目里用过多任务这套共享主干确实让小样本的那个分类任务指标提升了不少因为表示层从回归任务里借到了信号。
