LISA: A Layer-wise Integration and Suppression Approach for Hallucination Mitigation in Multimoda...

发布时间:2026/10/17 2:18:15
LISA: A Layer-wise Integration and Suppression Approach for Hallucination Mitigation in Multimoda... 文章主要内容和创新点主要内容本文针对多模态大型语言模型(MLLMs)在视觉-语言任务(如图像描述)中存在的“物体幻觉”问题(即描述图像中不存在的物体),提出了一种名为LISA(Layer-wise Integration and Suppression Approach,分层整合与抑制方法)的解决方案。LISA的核心思路是利用MLLMs的层级功能划分:浅层网络提供视觉接地(visual grounding),中层网络编码语义信息,深层网络则容易放大虚假信号。基于此,LISA通过两项关键技术实现幻觉缓解:区域特定光谱调制:抑制深层网络中过度放大的激活信号,同时保留浅层网络中的视觉对齐线索,稳定注意力机制;基于锚点的跨层融合:通过token级锚点选择和软logit融合,自适应整合选定层的token级输出,提升解码时的一致性。LISA是完全即插即用的,无需重新训练或修改模型架构,可无缝集成到现有MLLMs(如Qwen2.5-VL)中。实验表明,在多个基准测试中,LISA最多能减少53.6%的幻觉(CHAIR₁指标),并将POPE F1分数提升4.5%,在不同模型和任务中表现出强泛化性。创新点揭示现有方法的局限:指出现有解码阶段的幻觉缓解方法忽视了Transformer层的功能分层,导致层间表征整合不佳,无法有效调制光谱不稳定性;提出分层功能利用策略

关于本文作者

来自尧图内容编辑团队

尧图内容编辑团队 内容团队

尧图内容编辑团队

本文由尧图网络内容编辑团队执笔。团队由资深项目经理、前端工程师与设计师组成,所有内容均来自亲手交付的真实项目,先讲清问题、再给出可落地的解法。尧图深耕北京网站建设十年,服务过京华建材集团、智造科技等各行业客户,把一线经验沉淀为可复用的行业观察。

  • 十年建站经验,覆盖建材、制造、服务、文创等
  • 项目经理把关选题与事实准确性
  • 工程师与设计师联合撰写专业细节
  • 统一编辑规范,保证文风与排版一致
  • 每月复盘转化数据,迭代选题方向

延伸阅读

相关资讯与近期热门内容

深度阅读推荐

建站决策前值得细读的三篇

网站改版的5个关键决策
2024-08-12

网站改版的5个关键决策

什么时候该改版、改到什么程度、如何避免流量掉光,京华建材集团改版复盘给出答案。

获取专属建站方案

看完文章,把您的行业与预算告诉我们,免费获取一份量身定制的官网建设方案与报价。

立即免费咨询