发票审核 30 行代码搞定Clef-Flash 图像输入接入真实业务流的完整走读【免费下载链接】clef-flash项目地址: https://ai.gitcode.com/hf_mirrors/Cloudflare/clef-flash发票审核是典型的高确定性、高并发、低容错业务判定既要看懂图像证据又要输出结构化结论还不能让自由文本生成把结果搅浑。Cloudflare 在 2026 年 10 月开源的决策模型 Clef-Flash基于 Qwen3.5-9B 后训练、9B 参数、Apache-2.0 协议恰好踩中这个需求点——它不做文本生成一次前向传播直接输出每个问题的选项概率分布中位推理延迟仅 38.8ms且 API 与 Jev/SystemOne 完全兼容。本文基于仓库源码hf_mirrors/Cloudflare/clef-flash做完整走读从把发票图片喂进模型的最小实现到三类审核问题的 schema 设计再到置信度阈值与异常样本如何接回真实业务流全程给出可运行代码与文件级证据。为什么发票审核是决策模型的天选场景传统方案把发票审核交给通用 LLM 时通常要经历OCR 抽取 → 拼 prompt → 生成文本 → 正则/JSON 解析四步。每一步都在引入不确定性格式漂移、越界幻觉、无置信度、解析失败。而 Clef-Flash 在架构层面把这些问题全部绕开——README.md 原文写得很直白It reads the state as text, JSON, images, or video, and returns a probability for every allowed option of every question in a single forward pass. There is no free-form text generation and no output parsing.即输入是业务状态 类型化问题 schema输出是每个问题的每个合法选项的概率单次前向完成无自由文本生成、无输出解析。这正是社区讨论中反复出现的核心卖点noul是否、choice命名选项、score有序等级三类问题输出为联合概率分布。仓库结构与这个设计一一对应见 README.md 的文件清单表文件作用model-*.safetensors、config.jsonQwen3.5-9B 骨干 视觉编码器标准 safetensors 分片joint_head.safetensors、joint_head_config.json联合 Schema 头joint schema headjoint_schema_model.py记录编码、批处理、模型、load_release_model、systemonetokenizer.json、chat_template.jinja、processor_config.json分词器与图像/视频处理器从 config.json 可以看到骨干的混合架构32 层隐藏层、hidden_size4096layer_types中大量linear_attention与每 4 层穿插的full_attention——这是 Qwen3.5 的线性注意力类 Mamba SSM混合设计比纯全注意力更省显存、更快。视觉编码器采用 Qwen2VL 风格patch_size16、merge_size2图像与视频 token id 分别为 248056/248057。model.safetensors.index.json 记录总参数量 9,409,813,744约 9.4Bbf16 权重约 18.8GB单卡 24GB 显存即可承载——这也是社区教程普遍在单卡 H200 上部署的原因。最小实现把发票图片喂给模型核心链路约 30 行代码入口是 joint_schema_model.py 中的三个函数load_release_model加载骨干联合头processor、encode_record把 record 编码成模型输入、collate_records批处理。先加载模型import sys import torch from PIL import Image from huggingface_hub import snapshot_download path snapshot_download(Cloudflare/clef-flash) sys.path.insert(0, path) from joint_schema_model import collate_records, encode_record, load_release_model model, processor load_release_model(path, devicecuda)然后构造一条发票审核记录。record 由state业务状态、imagesPIL 图像列表、questions问题 schema组成。这里有一个值得注意的设计点state 不应携带答案。因为 state 会被完整渲染进输入序列如果你把金额12800写进 state等于把答案直接喂给了模型审核就失去了独立性。正确的做法是让 state 只描述任务让证据全部来自图像record { state: {task: 审核附件的发票图片回答全部问题。}, images: [Image.open(invoice_00831.jpg)], questions: { amount_over_10k: { type: noul, instructions: 发票含税金额是否大于 10000 元, }, decision: { type: choice, instructions: 给出本次发票审核的处理决定。, criteria: { approve: 信息完整一致可放行。, reject: 存在明显错误或伪造痕迹应退回。, review: 信息缺失或存在疑点需人工复核。, }, }, risk: { type: score, instructions: 评估该发票的风险等级。, criteria: [无风险, 低风险, 中风险, 高风险], }, }, }图片的预处理不需要你自己动手。在 joint_schema_model.py 的_encode_media中每个图像会被替换成占位符IMAGE_PLACEHOLDER |vision_start||image_pad||vision_end|然后交给processorprocessor_config.json 中声明的Qwen3VLProcessor完成 resize、归一化、patch 化产出pixel_values、image_grid_thw等媒体张量。核心编码与推理只有几行encoded encode_record(processor.tokenizer, record, processorprocessor) batch collate_records([encoded], processor.tokenizer.pad_token_id, torch.device(cuda)) with torch.inference_mode(): logits model(batch)[0] for q, q_logits in zip(encoded.questions, logits): probs q_logits.float().softmax(-1).tolist() print(q.question_id, dict(zip(q.option_ids, probs)))去掉空行与注释这条加载→编码→推理→出概率的链路刚好 30 行上下。关键点在于模型返回的是每个问题每个选项的 logit你只需要对每个问题单独做一次 softmax 即可得到概率完全不需要 decode、不需要 parse。encode_record默认max_length16384可通过max_state_tokens单独截断 state防止超长状态挤占 schema 位置。审核问题的 schema 设计noul / choice / score 的业务映射三类问题在 joint_schema_model.py 的QUESTION_TYPES {noul: 0, choice: 1, score: 2}中被类型化并在question_options中展开成选项 ID 描述序列noul是非题默认只有true/false两个选项描述可自定义。对应发票场景中的验真是否超限这类布尔判定choice命名选项criteria是选项 ID 到描述的映射按 ID 排序。对应审核处理决定这类多分支路由score有序等级criteria是描述列表选项从 0 开始按索引编号。对应风险等级这类序数判定。给choice和score写criteria描述不是可选项而是影响效果的关键。在联合头的打分逻辑里见JointSchemaHead.forward每个选项会通过option_lexical_projection取选项描述 token 的词嵌入均值作为词汇先验lexical prior再与从 state/image 中路由出来的证据向量做余弦相似度与残差打分。描述越具体、越互斥模型越容易把图像证据对齐到正确选项。此外instructions是可选的——缺省时直接用 question_id 作为指令所以问题命名本身也要语义清晰。为什么不把三个问题拆成三次调用因为联合头本身就是为多问题联合决策设计的joint_head_config.json中routing_layers2的EvidenceRoutingLayer让每个选项从完整序列中路由证据随后 4 层 TransformerDecoder 让各字段问题之间交叉注意力再叠加global_vector序列末端全局向量与type_embedding问题类型嵌入生成最终字段表示。所有问题的打分在一次前向中联合完成既省延迟又让金额是否超限与风险等级共享同一份图像证据。接回业务系统置信度、阈值与异常样本决策模型最大的工程价值是概率可用。systemone_answerjoint_schema_model.py把概率转成 Jev/SystemOne 兼容的答案结构noul→{type: noul, noul: p_true}直接给出为真的概率choice→choiceconfidence最高概率 全量probabilitiesscore→ 期望值score Σ(index × p_index)confidencelegend 全量probabilities。如果你不想自己拼 record仓库还提供了systemone(model, processor, request)一行式入口接受标准 Jev/SystemOne/v1/systemone请求体含可选的images、videos返回model、answers与usage——注意usage.output_tokens恒为 0因为没有生成成本完全可预测。SGLang 服务化后只需对/v1/systemone发 HTTP 请求README.md 给出了 docker 启动命令Ollama v0.35.1 也原生支持 Clef 系列并新增/decision接口接入方式很灵活。回到业务系统置信度必须驱动路由决策而不是被丢弃。一个典型实现decision response[answers][decision] # choice 类型 if decision[confidence] 0.70: ticket HUMAN_REVIEW # 低置信度 → 人工复核 else: ticket decision[choice] risk response[answers][risk] # score 类型 level int(round(risk[score])) # 期望等级0~3 over response[answers][amount_over_10k] # noul 类型 if over[noul] 0.9: flag_amount REQUIRES_SECOND_CHECK elif over[noul] 0.1: flag_amount OK else: flag_amount UNCERTAIN # 概率骑墙证据不足noul概率落在 0.1~0.9 区间意味着证据不充分这正是社区实战文章反复强调的阈值误设踩坑点决策模型给的是概率业务方必须为每个问题单独校准阈值而不是默认取 argmax。异常样本处理的关键在于回流闭环。低置信度样本与其对应的人工复核结论天然构成高质量的微调数据集——Cloudflare 官方发布的 RL 微调产品正是为此设计Clef-Flash 在训练时冻结骨干、以 rank-256 LoRA 联合优化路由头损失函数为 label-smoothed cross-entropy 加 Brier 损失校准概率并用 RLCD面向校准的强化学习作为二阶优化目标对相邻序数选项给予部分分数并施加参考惩罚。把模型判错/判弱的样本喂回去是持续压低异常率的正路。最后必须客观看待模型边界。仓库的 Workflow evals 显示Clef-Flash 在发票处理工作流上 Exact actions 为 57.1、Primary action 为 73.3——低于 27B 的完整版 Clef64.7/86.2但在客户服务工作流上以 77.0 的 Exact actions 反超。所以选型逻辑应该是高吞吐、低延迟的预筛/路由用 Clef-Flash涉及大额放款的终审结论要么换 Clef要么强制人工复核兜底。这也是决策模型落地纵深防御的正解模型负责把 80% 的常规样本以毫秒级速度分流人工与审计只处理置信度不足的少数同时所有决策留痕——毕竟概率再高也只是概率。从一张发票图片到可路由的业务决定Clef-Flash 用约 30 行代码完成了传统 LLM 方案几十行 prompt 工程 解析器才能勉强做到的事。确定性、概率化、可回流这三点才是决策模型在真实业务流里站稳脚跟的真正原因。【免费下载链接】clef-flash项目地址: https://ai.gitcode.com/hf_mirrors/Cloudflare/clef-flash创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
