简介这是一份基于Stacking框架的弱监督深度学习情感分析研究算法项目面向计算机相关专业学生及算法研究人员。项目以Python完整源码为主体涵盖LSTM、CNN、RNN、朴素贝叶斯、SVM等多种模型的独立实现并在此基础上结合Stacking集成策略完成弱监督情感分类实验适合用作课程设计、毕业设计或算法对比研究的参考范本。资源共包含9个文件主要由6个Python源码脚本、2个情感语料Excel数据表和1个Markdown说明文档构成多个模型脚本可单独运行与对比正负情感样本数据便于直接开展实验验证README文档提供项目结构与使用方法说明整体包体积约994KB结构清晰易上手。目前已有73人学习下载通过该资源可获取完整可运行的情感分析模型代码、Stacking集成学习实现思路、数据预处理与实验对照方法对理解弱监督学习与多模型融合具有不错的实战参考价值。1. 弱监督深度学习情感分析为什么 Stacking 框架值得先试情感分析在实际业务里最缺的从来不是模型而是标注数据。一个电商评论项目从立项到能用往往一半时间耗在让人工标 3 万条正负样本上标完还常发现标注员之间对“中评算正还是算负”吵了半个月。弱监督深度学习的思路是先不急着雇人用情感词典、规则模板、平台自带的点赞踩数这类廉价信号把训练集“粗标”出来再用模型去拟合。代价是标签噪声大单模型训练到后期几乎必然过拟合噪声表现为验证集震荡、类别偏斜。Stacking 框架在这条路上恰好能补位它把多个基学习器的输出拿去做第二层训练让元学习器学会“谁的话在哪个区间更可信”。这套方案适合手里有大量无标注文本、预算有限、又想尽快跑通情感分类基准线的团队。下面按一条完整可复现的路径展开从基学习器选型讲到弱标签生成再到 Stacking 元特征构造和避坑。2. 基学习器搭建TextCNN 与 BiLSTM 为什么是弱监督下的主力2.1 弱监督下选基学习器先看稳定性和训练速度不少人在弱监督场景里上来就上 BERT理由是准确率高。但弱标签训练的实践中BERT 这类超大模型拟合噪声的速度比小模型快得多训练成本高还容易让模型记住错误标签。而情感分析任务里真正稳定的提升来源往往是词序、否定结构、程度副词这些局部特征。TextCNN 用多尺寸卷积核抓局部短语BiLSTM 保留词序信息两个模型行为差异大恰好能让第二层 Stacking 获得互补的预测分布。何况文本长度通常被截断在 128 到 256 之间两个模型在一张消费级 GPU 上训练都只需要分钟级迭代快适合弱监督这种“多发实验”的场景。2.2 先搭 TextCNN轻量、稳、适合第一批弱标签样本第一个基学习器我一般用 TextCNN因为它训练快、收敛稳在短文本情感分析里即使面对弱标签也能抓住“难吃”“太慢”“差评”这类局部短语。PyTorch 实现如下import torch import torch.nn as nn class TextCNN(nn.Module): def __init__(self, vocab_size, embed_dim100, num_filters128, kernel_sizes(2, 3, 4), num_labels3, dropout0.3): super().__init__() self.embedding nn.Embedding(vocab_size, embed_dim, padding_idx0) # 多尺寸卷积核并行提取 2-gram、3-gram、4-gram 局部特征 self.convs nn.ModuleList([ nn.Conv1d(embed_dim, num_filters, k, paddingk // 2) for k in kernel_sizes ]) self.dropout nn.Dropout(dropout) self.classifier nn.Linear(num_filters * len(kernel_sizes), num_labels) def forward(self, tokens): emb self.embedding(tokens).permute(0, 2, 1) # B, embed_dim, L feats [] for conv in self.convs: h torch.relu(conv(emb)) h torch.max_pool1d(h, h.size(2)).squeeze(2) feats.append(h) return self.classifier(self.dropout(torch.cat(feats, dim1)))这段代码里有三个参数值得重点说明。kernel_sizes(2, 3, 4)是短文本情感分析最常见的配置覆盖二字词、三字短语到四字固定搭配num_filters128在弱标签场景下不需要调得太大过大反而更容易记住噪声padding_idx0配合输入序列统一补零让 padding 位置不参与训练。训练时交叉熵配合weight_decay加到 Adam 优化器里常用配置是lr1e-3, weight_decay1e-4每轮结束看验证集准确率连续两轮不升就把学习率降一半。2.3 再搭 BiLSTM补上顺序和长距离依赖TextCNN 对词序不敏感“我喜欢这个产品但不会复购”这类句子在 CNN 眼里可能是两个独立短语的简单拼接而 BiLSTM 能按顺序建模转折结构。实际落地时不要单独用 LSTM 当主力训练速度慢且容易漂移但作为 Stacking 的第二个基学习器效果很好class BiLSTMAtt(nn.Module): def __init__(self, vocab_size, embed_dim100, hidden_dim128, num_labels3, dropout0.3): super().__init__() self.embedding nn.Embedding(vocab_size, embed_dim, padding_idx0) self.lstm nn.LSTM(embed_dim, hidden_dim, batch_firstTrue, bidirectionalTrue) self.att nn.Linear(hidden_dim * 2, 1) # 注意力打分 self.dropout nn.Dropout(dropout) self.classifier nn.Linear(hidden_dim * 2, num_labels) def forward(self, tokens): out, _ self.lstm(self.embedding(tokens)) # B, L, 2H att_w torch.softmax(self.att(out).squeeze(-1), dim1) # 注意力加权求和把整句压缩成一个向量 ctx torch.bmm(out.transpose(1, 2), att_w.unsqueeze(-1)).squeeze(-1) return self.classifier(self.dropout(ctx))注意这里hidden_dim128指的是单向隐藏维度双向拼接后是 256。注意力机制的作用不是提升弱标签下的绝对准确率而是让模型在长句里不容易被某个强情感词带偏这一点在 Stacking 里面表现为预测概率分布更平滑。训练时 LSTM 收敛比 CNN 慢通常需要多跑 3 到 5 个 epoch 才能稳定所以弱监督训练中我会先跑完 TextCNN再用它的预测结果作为 LSTM 的初始伪标签辅助。BiLSTM 对学习率更敏感常见做法是把学习率降到 CNN 的一半即lr5e-4。2.4 第三个视角加一个“非深度”基学习器提升堆叠多样性Stacking 的收益来源不是单个模型有多准而是元学习器能看到不同模型的“分歧”。很多实践里只堆两个深度模型效果和直接平均差不多。我一般会加入第三个基学习器逻辑回归配合 TF-IDF 特征。这类线性模型在短文本上往往不比深度模型差多少而且它对词频的感知方式完全不同深度模型学的是分布式表征线性模型学的是稀疏命中。第三路预测概率进入 Stacking 后元学习器能学到“当 CNN 和 LSTM 都犹豫时朴素线性模型的判断更可信”这样的规则。这个视角在弱监督场景下尤其好用因为 TF-IDF 不会被 embedding 层放大噪声。3. 弱标签生成三个廉价信号来源与置信度校准3.1 情感词典打分是弱监督的起点但别直接当硬标签弱监督的第一步不是训练模型而是造标签。最常见也最可控的来源是通用情感词典把带极性分数的词表加载进来对每条文本分词后累加分数。这一步在开源分词工具配合下很容易实现import jieba import torch def weak_label(text_list, lexicon, negation_words(不, 没, 别)): scores [] for sent in text_list: words jieba.lcut(sent) raw sum(lexicon.get(w, 0.0) for w in words) # 否定词翻转例如“不难吃”整体极性由负转正 if any(nw in words for nw in negation_words): raw -raw scores.append(raw) scores torch.tensor(scores) pos scores 0.3 neg scores -0.3 neutral ~(pos | neg) labels torch.where(pos, 1, torch.where(neg, -1, 0)).numpy() return labels, scores.numpy()这里有个新手最容易翻车的点把词典得分直接当作硬标签使用。实际情感词在语境里有程度差异“还不错”和“太好了”得分可能一样但置信度差很远。代码里的labels只是辅助信号真正训练时要额外把scores归一化后作为样本权重传进损失函数让得分高的样本对梯度影响更大。阈值 0.3 是经验初值后续要用小规模人工标注校准。3.2 表情符号和点赞数据是第二个信号源召回胜过精度词典覆盖不了口语化表达比如“哈哈哈哈”和“裂开”在词典里可能完全没有。这时可以用平台侧的弱信号带正面表情符号的评论推定为正负面表情符号推定为负有大量点踩的负面行为数据也可以用但这类信号偏斜严重更适合做召回而不是精标注。做法是把这批样本单独放在一个 DataFrame 里不并入词典标出的样本而是作为“高置信候选集”的一部分等 embedding 模型训完第一轮后再通过预测概率筛选加入。这个做法本质上是从弱监督平滑过渡到伪标签自训练。3.3 用 200 条人工标注做阈值校准让弱标签分布和真实分布对齐弱监督方案能不能用取决于生成的标签分布和真实标签分布有多接近。常见做法是人工标注 200 条样本画一条阈值 vs 精确率的曲线阈值调大保留的样本更准但更少阈值调小样本多了但噪声变大。实操中我通常标三份各 200 条一份来自纯词典规则一份来自表情符来源一份是随机抽样跑通流程后的预测结果分别观察它们在不同阈值下的精确率和召回率。多数时候 0.3 到 0.5 之间是甜区低于 0.2 的弱标签噪声会让 Stacking 上层的元学习器学到虚假模式高于 0.8 则样本量不够基学习器欠拟合。3.4 弱标签生成后必须检查类别分布稳定性弱监督信号常常自带分布偏差电商评论里纯粹的中性句很少但规则引擎会把大量“发货很快但质量一般”判成中性因为正负分数抵消。这时候类别比例看起来合理实际是错误抵消的假象。我的习惯是每轮生成弱标签后打印三件事类别占比、每类平均得分方差、词典未命中率。未命中率超过 40% 说明当前词典已经撑不住这个领域的表达需要补充领域词或增加新信号源。4. Stacking 框架实操用交叉验证生成 OOF 特征避免自样本泄漏4.1 Stacking 在弱监督里的定位不是堆模型而是学分歧很多人对 Stacking 的理解停留在“把多个模型的预测结果平均一下”这其实是 Bagging 的思路。Stacking 的核心差异是第二层有一个可训练模型它学习的输入是基学习器在样本上的预测概率输出是最终标签。弱监督场景下基学习器各自学到不同的错误模式元学习器如果能把“模型 A 给 0.7、模型 B 给 0.2 时更可能是噪声”这样的条件概率学出来整体效果就会比任何单一模型都稳。但这一切的前提是元学习器的输入特征必须来自交叉验证否则基学习器看过训练标签后给出的概率完全失真。4.2 五折 OOF 特征生成Stacking 的嫡系饭票每个基学习器都要先在自己的训练折上训练再对验证折预测。这样每个样本获得的预测概率都来自一个从未见过它的模型元学习器看到的就不带自样本乐观偏差。代码如下import numpy as np from sklearn.model_selection import StratifiedKFold from sklearn.linear_model import LogisticRegression def build_oof(estimator, X, y, n_fold5, seed42): skf StratifiedKFold(n_splitsn_fold, shuffleTrue, random_stateseed) oof np.zeros((len(X), 3)) for tr_idx, va_idx in skf.split(X, y): model estimator # 每个 fold 需要重新初始化 fold_model clone(estimator) fold_model.fit(X.iloc[tr_idx], y[tr_idx]) oof[va_idx] fold_model.predict_proba(X.iloc[va_idx]) return oof注意代码里有两个隐藏细节。第一clone(estimator)不是装饰品如果直接把同一个模型对象放到循环里前面折训练的权重会被后面折覆盖最终五折预测全部来自最后一次训练结果OOF 彻底失效。第二分层五折的前提是弱标签三类都有足够样本如果某一类少于 50 条不要强行分层改用StratifiedKFold会报错或产生空折这时先做下采样或过采样再进 OOF 流程。4.3 元特征不止预测概率加入置信度和文本统计特征元学习器的输入不局限于基学习器的三分类概率。我常用的元特征分三组第一组是 CNN、LSTM、线性模型的预测概率向量共 9 维第二组是当前样本弱标签置信度得分和词典得分这两个数字告诉元学习器原始信号的可信度第三组是文本长度、否定词个数、情感词命中数。这些特征组合起来后元学习器能学到“文本很短且情感词密集时深度模型更准文本很长时注意力 LSTM 的输出更值得参考”这类规则。把特征拼好后第二层模型我一般选带 L2 正则的逻辑回归因为元特征维度低、噪声标签仍然存在过于复杂的 GBDT 反而容易过拟合meta_features np.hstack([ oof_cnn, # 3 列 oof_lstm, # 3 列 oof_lr, # 3 列 senti_score.reshape(-1, 1), # 词典置信度 neg_count.reshape(-1, 1), # 否定词数量 text_len.reshape(-1, 1), # 文本长度 ]) meta_clf LogisticRegression(C0.5, max_iter1000) meta_clf.fit(meta_features, y)C0.5的意思是正则强度适中。弱标签场景下元学习器面对的特征本身已经是从带噪标签里提炼出来的正则太弱会把基学习器的系统性偏差学进最终预测正则太强又退化成简单平均。max_iter1000没有必要改逻辑回归在这个特征维度下几百轮就能收敛。上线阶段直接调用meta_clf.predict_proba即可基学习器的预测也要走完全相同的预处理流程这一步在工程上最容易漏。4.4 训练一个强基学习器和弱基学习器不如五个中等模型歧见是 Stacking 的核心但实践里有个误区把五个结构几乎相同的模型当五个基学习器只是改了随机种子结果差别极小。真正有效的是结构差异大的组合比如 TextCNN、BiLSTM、TF-IDF 线性模型之外再加一个基于词向量的平均池化模型它计算的是整句语义的“重心”和 CNN、LSTM 的行为模式完全不同。五个中等准确率模型堆出来的 Stacking在弱标签上往往超过两个 90 分模型的简单集成这个结论在多次实验里都很稳定。5. 避坑清单弱监督 Stacking 最容易翻车的四个细节5.1 模型记住了噪声表现为训练集准确率 97%验证集跌回 70%这是弱监督任务里最常见的现象。原因是弱标签本身有系统性偏差比如词典把“质量堪忧”判为负、模型确实学到了这个规则但在真实验证集上“质量堪忧”可能被人工标成了中性。解决办法是先别急着换模型结构回到弱标签生成环节看置信度分布。把低置信度样本筛掉一部分再训比任何正则化都有效。另一个补救是给低置信度样本降低损失权重我用过sample_weight 0.5 abs(senti_score) / max_score效果比单纯删样本平滑。5.2 五折 OOF 之后直接复用了全部数据训练基学习器Stacker 验证分数虚高现象是 Stacking 的验证分数很高上线后立刻掉几个百分点。原因是 OOF 只是元特征生成阶段用了五折拿到 OOF 后有人顺手用全量数据重新训练了一份基学习器再用这份全量模型去生成测试集特征。这不影响 OOF 自身但会让 Stacker 见到的训练特征和生成特征的方式不一致。规范做法是保留五折模型测试集推理时把五个模型的结果取平均或直接做第五折预测这两种方法都行但千万别混合使用。5.3 弱标签里正负样本比例严重失调Stacker 输出了“永远预测多数类”弱监督生成阶段经常出现正类样本占比 80% 以上。基学习器对这种分布学到的概率本身就偏向正类三个模型概率叠加后元学习器即使什么都不学预测正类也能拿高准确率。解决方式是做两层校准。第一层是在基学习器阶段用类别加权损失torch.nn.CrossEntropyLoss(weighttorch.tensor([1.0, 1.5, 2.0]))第二层是在 Stacker 训练前对元特征做标准化。注意此时不要在 Stacker 里再放开类别权重元学习器只需要学到基学习器输出到真实标签的映射二次加权反而引入新的偏斜。5.4 把 OOF 特征保存了但丢了归一化参数第二天评估时整条链路报错又定位不到这是工程踩坑。弱标签方案里元特征里的文本长度、词典得分量纲差异大有些实现会对元特征做 StandardScaler。如果只在训练时 fit推理时没保存 scaler 对象线上接口接收到的特征全是原始量纲Stacker 预测结果直接失真。因为报错不会出现模型还能跑掩盖了问题。我的习惯是把 scaler 和 meta_clf 一起存进同一个 joblib 文件文件名里标注生成日期和弱标签版本确保特征处理链路是同一个版本。这是弱监督 Stacking 项目里最不起眼却又最值得养成习惯的地方。6. 上线前的最后验证用小样本人工标注把整套系统拽回来6.1 给整套系统造一批“底火”测试集弱监督项目的验收不能只看 Stacking 在弱标签上的分数因为那批标签本身就是系统自己生成的循环验证没有说服力。我会额外人工标注 500 条样本覆盖正、负、中性三种分布和线上真实比例相近。把这 500 条放进评估流程后分别对三个基学习器和 Stacker 计算混淆矩阵重点关注“中性被分到正类”和“负类被分到中性”这两类错因为它们在业务里代价完全不同。观察 Stacker 相对最佳单模型是否真的有提升如果只提升 0.5 个百分点以内说明基学习器之间的互补性不强这时候与其堆模型不如回去补弱标签质量。6.2 逐条检查失败样本确认弱监督的收益来自哪一层我会从评估集里挑出真实标签是负、但弱标签给成了正的样本看它们在哪几个模型上判断错误。这类样本通常包含反讽句比如“真不错三天就坏了”词典得分会被“不错”带成正分三个基学习器可能都被骗Stacker 也没有救回来。这种失败说明当前弱信号里缺少反讽检测不是 Stacking 能解决的问题考虑加反讽句式模板到弱标签生成阶段更有效。反过来如果 Stacker 能在某个模型错、某个模型对的样本上做出正确选择就说明这一层确实学到了有用的条件关系这套方案就值得继续投入。我的习惯是每次调完参数都把失败样本存成一个 CSV按类型分组。几轮迭代之后回看往往发现真正拖后腿的不是模型而是弱标签来源。这一套流程走下来弱监督加 Stacking 的组合能帮你用很少的人工标注把情感分析基线跑到可接受水平后续再逐步加入更高质量的标注数据替换弱标签模型还能继续涨点。希望帮到你。本文还有配套的精品资源点击获取
