早上七点二十分咖啡还没喝完我先翻了今天挂到网上的新一批论文。这个习惯我保持了很久甚至可以说我现在对很多方向的直觉判断就是从每天这二十分钟里慢慢堆积起来的。今天这篇照例是2026年10月2日这一期主题是计算机视觉方向的预印本精读。我不打算把摘要搬运过来告诉你“今天有什么”而是打算把今天真正值得你花时间去看的三篇论文挑出来讲清楚它们做了什么、为什么值得关注、以及对你手头的项目可能有什么用。不管你是刚入门的学生还是在一线做算法的工程师这篇应该都能帮你省下一些筛选的时间。1. 今日选题如何从几百篇噪声里留下三篇1.1 我的筛选漏斗是怎么跑的先说筛选。今天挂在网上的CS相关投稿我粗扫了一下标题和摘要总量在几百篇的级别其中跟计算机视觉直接相关的大概占据了一半以上。这个量级完全没法逐篇精读所以我跑了一个三层漏斗。第一层只看标题和摘要每篇耗二三十秒。目标是排除明显不相关的领域以及那些一看就是“换了个数据集又跑一遍”的扩展报告。第二层看框架图和实验表格这一步会筛掉一批“故事讲得好但实验单薄”的稿子。第三层才真正打开正文确认方法细节、损失函数和消融实验是不是真的支撑得住题目。这个漏斗听起来很理性其实做起来非常感性。我判断一篇论文值不值得精读核心就三个问题方法是不是够简洁实验是不是够扎实以及我能不能在三天内复现出它的核心结果。我把这个标准做成了一张表长期贴在笔记首页判断维度我会看什么优先级方法简洁度是不是用很小的改动解决了一个明确的问题高实验完备度有没有近期强基线对比消融做没做全高可复现性有没有代码依赖是不是常见框架中工程价值有没有考虑推理延迟、显存占用、部署条件中真要说的话“方法简洁度”被我放得非常高。因为做工程的人都知道一个方案如果依赖十几个新模块、好几个精巧的初始化技巧才能work那它大概率换一个场景就废了。能留下来的工作往往是一句话能讲清楚核心idea的工作。1.2 今天投稿的热度与值得关注的信号从今天的投稿分布来看检测分割方向仍然是大头大概占了三成多模态相关的工作比前几个月更热差不多到了四分之一视频理解、生成模型、3D重建各自占了百分之十几剩下的零星散落在底层视觉和优化方法上。这个比例本身没什么意外但有个信号值得注意今天有一大批“扩展报告类”投稿标题里全是“应用于XX场景”“在XX基准上的进一步验证”。这类论文不是没有价值而是信息密度通常低于单点技术突破。它们更适合当作某个方向的补充背景不适合放在精读名单里占时间。另外今天我至少看到了三篇跟测试时自适应相关的新投稿有方法改进的有理论分析的。这个问题我们在第三章会专门展开说。整体来看今天的投稿里“效率”是出现频率最高的词不管是推理效率、训练效率、数据效率还是标注效率。这其实是一个趋势信号后面我会细讲。2. 三篇值得精读的工作以及它们解决了什么问题2.1 区域感知token剪枝实例分割加速的另一种解法第一篇是某研究组提交的实例分割加速方案。它的动机很直接现在基于Transformer的分割模型推理慢主要慢在backbone和mask head上但并不是所有位置都需要最高精度的特征。一张图里的大片背景区域其实用低分辨率特征就能处理得很好真正需要高分辨率的只有物体边缘和遮挡交叠区域。方法上的核心改动是在特征提取过程中加入一个可学习的路由器根据区域显著性对token做剪枝和合并。剪枝比例不是固定的而是由路由器根据当前输入动态决定。这里有个很关键的工程细节如果直接做二值mask剪枝整个模块就不可导了。他们用的是带gumbel噪声的topk采样相当于在“保留哪些token”这件事上做了一个可微的松弛让梯度能正常回流。我在笔记里给它的评价是工程价值非常高尤其是自动驾驶、工业质检这类对推理延迟敏感的场景这种方案比单纯换一个小backbone要优雅得多。不过它的训练稳定性需要额外关注路由器如果没训好会出现“该省的地方不省、不该省的地方乱省”的情况这一点在复现时值得多留心。2.2 全局时间对比损失让视频表征真正学到运动第二篇是视频自监督方向的工作。视频自监督这几年一直有个老问题模型很容易偷懒光看单帧外观就能把对比学习任务做得很好结果学出来的表征根本不管运动信息。很多之前的方法靠patch-level的对比来解决这个问题但效果不稳定。这篇论文的思路是加了一个全局时间对比损失把同一个视频里不同时间窗口的全局特征拉近同时把不同视频的全局特征推开。听起来像是对比学习的老套路但它的重点在于“全局”两个字——之前的对比很多是在局部patch层面做的这篇特意强调了“全局表征时间维度”的组合让模型必须去理解视频里发生的事件而不只是看某一帧上有什么物体。作者在动作分类和视频检索上都做了实验和近期几个主流自监督方法做了对比在长视频上的提升尤其明显。我个人的判断是这个损失的设计思路很干净完全可以作为视频预训练的一个附加loss用到自己的框架里。但提醒你注意一个坑当视频很长、切段很多的时候全局特征的数量会变多显存占用会涨得很快实际落地可能需要做分段处理。2.3 两阶段蒸馏扩散模型快速采样的一条务实路径第三篇是生成模型方向的。扩散模型生成质量高但采样步数多、推理慢这是老问题了。蒸馏是常见的加速手段但一步蒸馏往往会把生成质量的分布结构破坏掉出来的图细节生硬。这篇论文做了一个两阶段蒸馏的改进先做多步蒸馏保住整体分布形态再做单步蒸馏去压缩映射关系中间加了一个一致性校正模块来修正两个阶段的误差传递。这样的设计逻辑上说得通。第一阶段相当于先教学生“老师的完整思路”第二阶段再教“如何一步到位”如果一开始就直接让学生走一步学生会学到很多捷径但丢掉真正的结构。作者在几个常用图像生成基准上都验证了效果4步采样已经接近原版50步的水平。我对这类工作一直比较关注因为生成模型要真正落地推理成本始终绕不过去。这篇的局限也很明显实验主要聚焦在图像生成上视频生成蒸馏还有很大的空间如果你手里的方向正好是视频生成可以顺着这个思路往下推。3. 从今天这批论文看CV研究趋势效率竞赛正在变成多维权衡3.1 为什么“效率”成了今天的最大公约数今天选出来的三篇论文其实有一个共同点都是在想办法降低某一环节的成本。第一篇省推理时间第二篇用自监督省标注成本第三篇省采样成本。这种巧合恰恰说明整个计算机视觉领域到了这个阶段已经很难靠“无脑堆数据、堆显存、堆算力”来碾压对手了。我经常用一个生活化的类比选车不能只看零百加速还得看油耗、保养、残值论文也是一样。过去几年大家拼的是“效果指标”谁涨点谁赢现在越来越多人意识到光看指标不行了还要看训练成本、推理延迟、显存占用、需要多少标注数据。一个方法效果再好如果跑一次实验要烧掉上千个GPU小时对小课题组和创业团队来说是没有任何意义的。所以我现在看论文会额外关注一个东西这篇论文的实验部分有没有报告推理速度或参数量。如果一个自称高效的模型居然不报告速度那大概率是因为速度不好看。反过来只要论文里把速度和精度放在同一个图里做权衡分析我对它的好感度会直线上升因为作者至少是在认真对待真实使用场景。从今天的投稿来看多模态大模型方向仍然在卷规模但值得注意的是一些工作已经开始研究“怎么让大模型变小”比如token合并、早期退出、动态计算分配。这个方向会越来越热因为它本质上是在做效率维度的正确的事。3.2 测试时自适应一个值得你持续跟踪的长期方向今天刷到的TTA相关投稿让我花了比想象中更多的时间。其中一个做的是测试时的特征分布校正另一个在讨论TTA方法在连续变化环境下的稳定性问题。这说明TTA已经不是一个新鲜概念而是进入了深水区。TTA解决的是什么问题简单说就是训练数据和测试数据分布不一致。自动驾驶系统在晴天训练突然遇到雨雾天气视觉模型的效果会瞬间崩掉。传统做法是把模型拉回实验室重新训练但数据标注成本太高TTA的思路是让模型在测试阶段直接用当前遇到的没有标签的数据来快速调整自己不需要额外的标注。这个方向值得长期跟踪因为现实世界就是非平稳的。但我也要提醒你一个坑TTA论文的实验设置差异很大有的用在线batch更新有的用整个测试集的离线统计有的每帧都更新模型权重有的只是调一个归一化层。对比基准不一致导致结果很难直接横向比较。你读这类论文时第一件事不是看涨了多少点而是看清楚它的实验设定和你自己的场景是不是对得上。4. 实操记录我复现了其中一篇并做了小规模验证4.1 环境准备与代码阅读读论文不跑代码等于白读。今天我选了第一篇区域感知token剪枝的方案做小规模验证原因很简单它和我手头一个检测项目最接近可以在已有框架上直接试。去翻了作者的代码仓发现他们把核心代码放出来了这让我对这篇论文的好感度又加了一分。我本地的环境是Python 3.10、PyTorch 2.1、CUDA 12.1先把环境装好。假设你已经拿到了对应的代码仓地址安装流程基本是下面这个套路git clone 项目代码仓地址 cd region-aware-token-pruning conda create -n ratp python3.10 conda activate ratp pip install torch2.1.0 torchvision0.16.0 --index-url https://download.pytorch.org/whl/cu121 pip install -r requirements.txt装完之后我先去看了模型定义文件。这个方案在结构上比我想象中轻量它没有改动整个检测模型的backbone只是在几个指定的Transformer层后面各插了一个路由器模块用来输出保留比例。这个设计的好处是即插即用不用从零开始训练整个网络坏处则是路由器模块本身如果设计不好很容易变成瓶颈。4.2 核心模块的改动思路我读代码的时候发现它的核心配置集中在保留比例的设置上。作者的默认配置大致是这样prune_layer_ratios { stage_1: 0.8, stage_2: 0.6, stage_3: 0.4, } router_cfg { input_dim: 768, hidden_dim: 128, use_gumbel_topk: True, topk_loss_weight: 0.1, }这里的保留比例是每一层允许保留token的比例上限。注意是上限而不是固定值路由器学的是“哪些token重要”的排序然后用gumbel-topk技巧来做不可微的剪枝操作的可微近似。我一开始没理解为什么需要一个gumbel噪声后来自己写了一遍反向传播才反应过来没有gumbel噪声的话topk的选择是不可导的整个路由器根本训不动。我在自己的小规模数据集上做验证时一开始尝试固定保留比例而不做动态预测结果精度掉得比预期快。后来把路由器真正加进去训练动态剪枝的优势才体现出来它能在大部分区域只保留五六成token的情况下把物体边缘附近的高频信息完整保住。4.3 小规模训练的结果因为时间有限我没有在完整数据集上跑完整的训练流程而是用了自己整理的一个小规模验证集大概几千张图跑几十个epoch看趋势。这么做的好处是快能快速判断方法有没有潜力坏处是结果不具备和论文直接对比的意义只能看相对变化。我的实验配置是冻结backbone的前几层只训练路由器和后续的mask head。下面是几个配置的对比配置mAP相对变化推理耗时原始模型不带剪枝基准1.0倍固定比例剪枝下降约0.5个百分点0.7倍动态路由器剪枝与基准基本持平0.72倍动态路由器mask head微调提升约0.3个百分点0.72倍从结果看动态路由器相比固定比例的优势很明确同样省了三成左右的耗时动态方式几乎不掉点固定方式却掉了不少。加上mask head一起微调之后效果还能反超基准说明剪枝带来的正则化效应在某些设置下是有益的。不过我用的数据规模和训练时长都比较有限这个提升能不能在更大规模的数据集上稳定复现还需要继续验证。但至少有一点可以确认这个方案的核心思路是成立的在分割和检测这类任务上有实打实的落地价值。4.4 复现时碰到的两个坑第一个坑是权重初始化。直接拿原始的ImageNet预训练权重来跑不先让路由器模块在老输入分布下适应几十个迭代精度掉得非常厉害甚至会出现大规模token被错误剪掉的问题。解决办法是分阶段训练先冻结backbone只让路由器学习“在正常输入下哪些token更重要”等路由器稳定了再放开其他部分一起训练。第二个坑是归一化层的选择。代码默认用的BatchNorm但动态剪枝会导致参与计算的token数量不断变化BN的统计量在训练和推理之间会不一致表现很差。我换成GroupNorm之后稳定性明显提升。如果你要自己实现这个方案我建议直接把所有BN换成GroupNorm省得后面踩和我一样的坑。5. 关于“每日更新”这件事读论文的核心是训练判断力5.1 我的阅读工作流和工具很多朋友问我怎么做到每天都看论文其实方法特别土固定时间、固定流程、用对工具。我一般早上花二十到三十分钟快速扫当天的标题和摘要一边扫一边把值得精读的标记下来数量控制在两到五篇。中午或者晚上抽一到两个小时精读这些标记过的论文边读边写笔记。这里我想特别强调“固定时间”的作用——如果读书不给自己设定一个固定时间段很容易被各种事情挤掉。我家里的说法是早八点前的半小时是论文专属时间就算当天再忙至少也要把这半小时保住。工具方面我主要用ArXiv的邮件订阅和关键词过滤功能。每天都收到一大堆新条目直接按摘要过滤能省下不少功夫。笔记我用本地笔记软件按“日期关键词”的方式命名归档。我做成了一个很朴素的目录结构20261002/ 01_region_aware_token_pruning/ notes.md config.yaml logs/ 02_global_temporal_contrast/ notes.md 03_dual_stage_distill_diffusion/ notes.md这个习惯最值钱的地方不是“我知道了什么”而是“我知道怎么快速知道什么值得知道”。判断力这种东西只能靠日复一日的积累没有捷径。5.2 给刚接触预印本阅读的同学的三个建议第一条建议每天只精读一篇但把这一篇真正读懂。不要贪多不要陷入“今天刷了五十篇摘要”的虚假成就感。读一篇论文至少要做到能独立把它的框架图画出来能说清楚它和最近哪几篇工作相关、差异在哪。第二条建议给自己建一张“论文关系图”。每读一篇新论文都问一下它和哪篇最像它比那篇多了什么少了什么这样读下来两三个月之后你会形成自己的一个领域地图不再是一地散落的论文标题。第三条建议写一个“复现日志”。每篇复现过的论文记录当时用的环境、卡在哪一步、最后怎么解决的。三个月后回头看你会发现自己的定位问题能力涨得飞快。这也是我今天能快速跑完一个小实验的原因——类似的坑之前已经踩过一轮了。6. 常见问题与避坑指南ArXiv阅读与复现的实用经验6.1 版本、更新与搜索先搞清楚对象很多刚接触预印本平台的同学会困惑一件事为什么我今天看到的文章明天再看好像不一样了。其实这里有一个很容易被忽略的基本概念ArXiv的条目分“新提交”和“更新”两类。“新提交”是这篇论文第一次挂上来“更新”是已有论文作者提交了新版本可能是改了内容、换了标题、补充了实验。所以如果你追某篇论文一定要关注它的版本号和最后更新时间。还有一个坑是标题改动。有些作者会在正式版本里改标题导致你用标题搜索时搜不到这时候要用论文编号来定位。反过来如果看到一个没有论文编号的分享链接就要多留个心眼那可能不是从官方渠道来的。常见误区实际情况每天“新提交”只有几百篇加上“更新”实际要看的通常翻倍摘要写什么论文就是什么有些摘要和正文实质贡献差异很大预印本都经过同行评审不是预印本在评审之前就已经公开6.2 识别低信息量论文的三个信号读多了自然能分辨哪些文章是“换皮”的。我的经验是重点关注三个信号。第一个信号是没有代码。不是说没代码一定不行但很多方法论文如果作者自己都不整理代码复现的难度会成倍增加你要谨慎评估投入产出比。第二个信号是对比实验严重缺失尤其是不跟近两年的强基线做对比。有些论文只跟自己比或者只跟三年前的方法比这种对比基本说明它心里没底。第三个信号是只在单一数据集、单一backbone上做验证没有跨数据集、跨设置的泛化实验。真正的有效方法应该能在不同条件下稳定有效。还有一个需要精读才能发现的信号论文里的图和表对不上。比如正文说提升了3个点结果表格里却找不到对应数据或者消融实验的表格缺了几行明显有选择性汇报的嫌疑。看到这种情况我一般会把这篇论文的可信度下调一个等级。6.3 一个看了不亏的归档习惯最后分享一个我的个人体会。复现和研究过程中真正能帮到未来自己的不是收藏夹里的两百篇论文链接而是一个结构化的阅读归档。我的归档方式很简单每天一个文件夹按日期命名里面放当天精读的论文笔记和复现记录。每篇笔记最后一页我会写一句话“如果我要把这个方法用在我自己的项目里第一件事是做什么。”这句话逼着我去思考每篇论文和现实问题的连接点。比如今天这篇token剪枝工作我写的是“第一件事是先检查我的检测模型哪些层的特征最冗余确定剪枝层位置。”这个想法就是今天阅读的全部收获浓缩成了可执行的下一步。这种方法不需要什么高级工具一个文件夹加一个文本文件就够但坚持半年下来你会拥有一份非常实在的个人知识库。我今天的整个阅读过程大概花了三个小时两篇精读加一篇粗读中间还顺手跑了小实验。你要是问我值不值我肯定会说值——今天的三篇给到我的收获不是几个可以拿来炫耀的名词而是让我对我手头项目下一步怎么做有了更具体的想法。最后再分享一个我自己的小习惯每篇精读论文的笔记最后一定要写一行“如果我要把这个方法用在我的项目里第一件事是做什么”这一句话基本决定了这篇论文对你到底是资产还是库存。明天的那一份我还会照常更新。
