有工程师在后台问模型在电脑上跑得好好的一烧进听诊器就卡先砍模型还是换芯片这个问题被问过很多次。先说结论心肺音 AI 的胜负不在模型精度在 512 KB 内存和几毫安电流之间。模型不是越小越好是刚好装得下、还听得清。我手里这只电子听诊器外壳和普通听诊器差不多拆开是典型配置80 MHz 级 MCU、512 KB SRAM、2 MB Flash、16 位 ADC 按 4 kHz 采一通道。实验室里那个98 分的模型一进这个预算表就开始自己付电费了。先算一笔账4 kHz 就够心肺音不是音乐。心音的主要能量集中在 20–600 Hz肺音高一些约 50–2000 Hz按奈奎斯特采样率高于 4 kHz 就能覆盖 2 kHz 上限。用 44.1 kHz 采心肺音多出来的高频里主要是环境噪声和麦克风自噪。数据率的账很直观单通道 16 bit、4 kHz就是 64 kbit/s也就是 8 KB/s1 分钟 480 KB10 分钟 4.8 MB。同样 10 分钟的 44.1 kHz/16 bit 录音是 52.9 MB差 11 倍。这 11 倍不只是存储还是传输时间、射频开机时长和电。拿手机录一段心音喂模型模型学的其实是手机麦克风换只听诊器准确率就掉。模型不是越小越好是乘加越少越好边缘端真正吃紧的是乘加次数不是参数量。一个参数很少、但每层都在全分辨率长序列上卷积的模型照样跑不动。一维卷积第一层用大核扫原始波形能抓到周期结构但乘加数高改成深度可分离卷积公开论文口径可把乘加数降到约 1/8–1/9。另一条路是先分帧、抽包络把 4 kHz 降到几十 Hz 再进小网络代价是丢了帧内相位。算一笔硬账80 MHz 的 Cortex-M4F按每周期 1 次 INT8 乘加估算上限是 80 MMAC/s一个 20 MMAC 的模型单次推理理论下限 0.25 s按 30% 利用率算约 0.8 s还没算前后处理和蓝牙。参数量是给别人看的乘加数才是给电池看的。INT8 省下的 4 倍亏在哪FP32 权重每个 4 字节INT8 每个 1 字节模型体积、Flash 读取带宽、SRAM 占用理论都降到 1/4在带 DSP 的 MCU 上INT8 还有 2–4 倍的乘加加速。这是边缘部署性价比最高的动作也最容易静默掉点。公开文献与厂商材料报告INT8 量化后精度损失在 1 个百分点以内但这是行业口径必须用自家校准集复测。掉点通常不发生在正常心音上而发生在低信噪比、杂音、摩擦音这些少数类量化噪声把本来就很小的病理成分埋掉了。工程上要用每通道缩放并拿一批含噪声的校准集做量化后复测。卡住的是内存和电算力可以等内存不能借。推理时每层的输入输出缓冲、权重、栈都要落在 SRAM 里权重放 Flash 能省 SRAM但每次读取都要花时间和电。电池这边更直接。CR2032 标称 220 mAh、3 V能量约 0.66 Wh负载 10 mW 时理论续航约 66 h20 mW 就只剩 33 h。BLE 连续传 64 kbit/s 的音频射频占空比和协议开销都不低很多智能听诊器不是算不动是传不起。反过来本地推理把 8 KB/s 的流变成每 2 秒一个结果射频可以大部分时间睡觉。边缘端的预算表上毫安比参数量更硬。数据与麦克风换只听诊器就崩心肺音模型的泛化一半输在数据一半输在麦克风。公开数据集能让你把网络跑通但救不了换一只听诊器就崩——不同麦克风的频响、贴肤压力、腔体结构都会改变同一颗心脏的声音。PhysioNet/CinC Challenge 2016 心音训练集约 3,240 段录音、1,296 名受试者ICBHI 2017 肺音数据集约 920 段录音、126 名受试者、6,898 个呼吸周期。公开数据集口径引用前复核版本。两个集子加起来仍以成人为主儿科、基层嘈杂环境、不同体位覆盖有限。工程上先在公开集预训练再用自家设备录几百条微调并按设备、按点位做留一验证。反例同一只听诊器录 200 条随机切分准确率 97%换一只同型号新机掉到 80%——它把这只麦克风的音色当成了特征。耳端、手机、云端选数据离开病人多远不是所有场景都要把模型塞进听诊器。耳端胜在离线、低延迟、隐私手机或网关胜在算力大一百倍、能显示波形、能升级云端胜在能跑大模型和多模态但要走网络、要传音频、要过合规。一段 4 kHz/16 bit 音频是 64 kbit/sBLE 有效吞吐通常只有几百 kbit/s连续传会挤占连接间隔和功耗本地推理只在出结果时发几十字节。本地延迟是采完 2 秒、算 0.1–1 秒云端还要叠加网络往返和排队。音频属于敏感个人信息能不离开设备就不离开。部署形态不是技术偏好是数据愿意离开病人多远。验收五项缺一不可医院不看你的 F1看它凌晨三点会不会误报。边缘端验收要把采集、推理、提示当成一个端到端产品来验。建议阈值从贴上去到出结果不超过 1 s连续工作 8 h外壳温升在人手可长期接触的范围内断网可用、重连后补传用摩擦音、环境谈话、走路噪声做负样本记录每小时误报次数与医生听诊做双盲对照至少 200 例、覆盖正常与至少两类异常。任一项不过先改产品别改 PPT。模型的上限是准确率产品的下限是误报率。回到开头先砍模型还是先换芯片先看 RAM、电池和数据愿不愿意离开病人这三笔账再谈模型结构顺序就不会错。
到可跑通)
