集成学习及置信度

发布时间:2026/10/15 4:03:21
集成学习及置信度 1.认知功能与身体功能NHATS 的参与者接受了认知测试包括即时和延迟后的 10 个单词记忆测试、计时绘画测试用于评估执行功能以及一系列定向测试问题。轻度认知障碍的判定标准是在一个或多个认知领域中的得分低于平均值的 1.5 个标准差[27]。而痴呆症的判定标准是至少在两个认知领域的得分低于平均值的 1.5 个标准差或者根据 AD8 痴呆筛查访谈的结果该人的痴呆症评分至少为 2 分[27]参考文献Kasper JD, Freedman VA, Spillman B. Classification of persons by dementia status in the National Health and Aging Trends Study. Technical Paper #5. Baltimore: Johns Hopkins University School of Public Health2.集成学习1如何衡量各个学习器的置信度训练集为其中。基学习器表示为对每一个样本给一个软标签其是在条件下赋值为标签的概率。故H中训练集上的输出可以表示为与此同时在观测(元数据)上的K个基学习器的输出可以表示为当每个类标签的概率相差很大时我们可以很容易选择出概率大的那个标签。如果各类标签概率接近比如说对二分类问题当存在的情况时就很难区分选哪个类比较好。为更好衡量置信度引入熵值。熵值越小置信度越高。主要的熵值计算方式有香农熵信息熵最小熵和碰撞熵。2如何评估各个学习器的可信度阈值---证据学习的结构和机理在多数情况下分类网络得到的结果只是当前类别的概率但是并不代表对于当前这个 sample 预测的置信度。softmax 激活函数的互斥性导致的分类网络总会给出一个预测结果无论好坏我们将问题缩小到一个简单的 K 分类网络它的参数是输入特征给出对应的 K 维向量代表属于 K 个类别的概率。但是根据前面说的这 K 个概率只是相对于训练样本而言的如果是 OOD 样本模型应该需要判断一下这 K 个概率的可信度。为了度量这种可信度我们用 K 维向量来表示这 K 个类别概率的可信度称为 集体信念belief mass用 表示预测结果的不确定性。显然 一起构成了一组新的 PMF自然满足。可信度用来衡量每个学习器领域知识的丰富程度对每个学习器设置可信度阈值为,则学习器的选择准则为3.集成学习的概率把K个基学习器的输出合并常见结合策略有三类。1平均法数值型输出个体性能相差较大时宜用加权平均相近时宜用简单平均。简单平均法加权平均法其中2) 投票法分类型输出绝对多数投票法majority voting某标记得票过半才预测它否则拒绝预测。相对多数投票法plurality voting预测得票最多的标记平票时随机选一个。加权投票法weighted voting与加权平均法类似给各学习器的票加权。按的取值类型投票又分两种硬投票hard voting使用类标记。软投票soft voting使用类概率对后验概率P 的估计。3) 学习法Stacking当训练数据较多时更强大的做法是用学习法再训练一个学习器来做结合代表方法是Stacking。这里把个体学习器称为初级学习器用来结合的学习器称为元学习器。先用初级学习算法训练出若干初级学习器然后把初级学习器的输出当作新样本的输入特征、原始标记仍作为标记生成一个新数据集用它训练元学习器。

关于本文作者

来自尧图内容编辑团队

尧图内容编辑团队 内容团队

尧图内容编辑团队

本文由尧图网络内容编辑团队执笔。团队由资深项目经理、前端工程师与设计师组成,所有内容均来自亲手交付的真实项目,先讲清问题、再给出可落地的解法。尧图深耕北京网站建设十年,服务过京华建材集团、智造科技等各行业客户,把一线经验沉淀为可复用的行业观察。

  • 十年建站经验,覆盖建材、制造、服务、文创等
  • 项目经理把关选题与事实准确性
  • 工程师与设计师联合撰写专业细节
  • 统一编辑规范,保证文风与排版一致
  • 每月复盘转化数据,迭代选题方向

延伸阅读

相关资讯与近期热门内容

深度阅读推荐

建站决策前值得细读的三篇

网站改版的5个关键决策
2024-08-12

网站改版的5个关键决策

什么时候该改版、改到什么程度、如何避免流量掉光,京华建材集团改版复盘给出答案。

获取专属建站方案

看完文章,把您的行业与预算告诉我们,免费获取一份量身定制的官网建设方案与报价。

立即免费咨询