【免费下载链接】Phi-4-mini-instruct_rai_1.8.0_npu_4K项目地址https://ai.gitcode.com/hf_mirrors/amd/Phi-4-mini-instruct_rai_1.8.0_npu_4K点击查看免费下载Phi-4-mini-instruct_rai_1.8.0_npu_4K 是 AMD 面向 Ryzen AI NPU 量化部署的 Phi-4-mini-instruct 模型包基于 ONNX 格式、支持 4K 上下文。本文带你快速看懂model.onnx、model.onnx.data和 76 个dd_metastate_*文件各自的用途附完整文件清单。一、这个项目是什么一句话概括把微软的 Phi-4-mini-instruct 大模型改装成 AMD 锐龙 AI 处理器 NPU 能直接跑的版本。源模型Phi-4-mini-instruct约 3.8B 参数量化方式Quark 量化框架UINT4 权重、Group 128 分组、非对称量化激活值用 BFP16见 README.md部署工具链OGA Model Builder 构建 ONNX 图再做 NPU 后处理融合生成 4K 上下文版本运行方式通过onnxruntime-genai日志名onnxruntime-genai加载token 生成阶段跑在 NPU 上hybrid_opt_token_backend: npu二、文件总览一眼看懂 96 个文件整个仓库按功能可分为 6 大类分类代表文件数量作用 推理引擎核心model.onnx、model.onnx.data2ONNX 计算图 权重数据⚡ NPU 融合子图元数据dd_metastate_*系列76NPU 预编译的加速状态文件⚙️ 运行配置genai_config.json、config.json、rai_config.json、generation_config.json4告诉推理引擎怎么跑 分词器tokenizer.json、vocab.json、merges.txt 等7文本与 token 互转 模型定义/脚本modeling_phi3.py、sample_finetune.py2PyTorch 参考实现与微调示例 文档许可README.md、LICENSE 等5说明、许可证、安全规范三、model.onnx 与 model.onnx.data一对骨架 肌肉这两个文件是 ONNX 模型的标准拆分方式很多新手第一次看到会困惑为什么一个模型拆成两个文件model.onnx真实大小约100 MB只存计算图的骨架——32 层 Transformer 的结构、算子连接关系、小张量。model.onnx.data真实大小约1.48 GB外部权重数据文件ONNX External Data 格式存放量化后的 UINT4 权重。骨架里只记录权重在哪数据本体放在这里。为什么拆开ONNX 单文件有 2GB 上限且拆分后图结构可被缓存复用加载效率更高。加载model.onnx时会自动读取同目录下的.data文件无需手动关联。小提示仓库中这类大文件通过 Git LFS 管理刚 clone 下来如果model.onnx只有 134 字节说明 LFS 尚未拉取执行git lfs pull即可获得真实文件。四、76个dd_metastate文件逐个拆解NPU加速的秘密这是仓库里数量最多、命名最天书的一批文件也是 NPU 部署版区别于普通 ONNX 模型的关键。4.1 命名规则一句话看懂所有 76 个文件都遵循同一个模板dd_metastate_推理阶段_子图名_形状描述.后缀推理阶段Llm_Prefill预填充处理整段提示词或Llm_Token逐 token 解码子图名modellayers.0input_layernormMLADFRMSNORM即第 0 层input_layernorm与后续注意力算子融合后的子图AMD 工具链为它生成的固定 ID形状描述预编译时的输入形状档位见下文后缀.fconst/.state/.meta/.super/.ctrlpkt五种4.2 两种推理阶段 × 两种长度档位LLM 推理分两步NPU 对两步分别做了预编译前缀含义形状档位文件数dd_metastate_Llm_Prefill_*一次性处理整段提示词sequence_length_padded_128~4096共10 档10 × 3 2 32dd_metastate_Llm_Token_*逐个生成新 tokenattention_mask_padded_384~4096共14 档14 × 3 2 44为什么要这么多档位NPU 偏好固定形状的输入。AMD 把上下文长度按 128/256 步进分桶运行时自动把实际长度取整到最近的档位直接命中预编译结果省去现场编译的时间首 token 延迟明显更低。4.3 五种后缀各管什么每个形状档位对应 3 个配套小文件外加每类阶段 2 个大文件后缀大小作用通俗理解.fconst约 1.6~1.7 GB每阶段 1 个融合子图的常量/权重数据是这 76 个文件中体积最大的本体.state约 1 KB运行时状态描述Prefill 850 字节 / Token 1158 字节.meta1 KB元数据子图与形状档位的描述信息.super约 60 B超图supergraph描述.ctrlpkt132 B控制包control packet调度用五、4个JSON配置推理引擎的驾驶手册genai_config.jsononnxruntime-genai的主配置。第 17 行指定加载model.onnx第 10~13 行声明RyzenAI提供程序并开启 NPU token 后端search.max_length: 4096就是4K的由来——单次生成上限 4096 token。config.json模型架构 量化参数。量化配置段写明quant_method: quark、权重uint4、group_size: 128、非对称num_hidden_layers: 32、hidden_size: 3072。rai_config.jsonRyzen AI SDK 各版本的提示词长度上限——1.6 及以下版本 20481.6.0 及以上 4096。generation_config.json采样参数eos/bos token 等由模型配置自动生成。六、分词器七件套与配套脚本文件说明tokenizer.json约 15.5 MB分词器主文件含词表与合并规则vocab.json约 3.9 MB词表200064 个 tokenmerges.txt约 2.4 MBBPE 合并规则tokenizer_config.json / added_tokens.json / special_tokens_map.json特殊 token 与行为配置chat_template.jinja对话模板决定多轮对话如何拼接此外modeling_phi3.py 是 HuggingFace 的 Phi-3 参考实现供auto_map在 PyTorch 侧做对照验证sample_finetune.py 提供微调示例NOTICE.md 与 LICENSE 说明第三方许可与 MIT 协议。七、总结清单拿到模型包先检查这 3 件事✅大文件是否完整model.onnx~100 MB、model.onnx.data~1.48 GB、两个.fconst各 ~1.6 GB是否为真实大小而非 134 字节的 LFS 指针不完整就执行git lfs pull。✅dd_metastate 文件是否齐全应为 76 个Prefill 32 Token 44缺档会导致对应上下文长度下 NPU 加速失效。✅配置是否匹配硬件确认 Ryzen AI SDK 版本 ≥ 1.6.0才能解锁 4096 提示词上限见 rai_config.json。至此model.onnx负责算图、.data负责权重、76 个dd_metastate_*负责 NPU 预编译加速——三者合起来就是 Phi-4-mini-instruct 在 Ryzen AI NPU 上流畅运行的全部家底。赞分享【免费下载链接】Phi-4-mini-instruct_rai_1.8.0_npu_4K项目地址https://ai.gitcode.com/hf_mirrors/amd/Phi-4-mini-instruct_rai_1.8.0_npu_4K点击查看免费下载相关推荐读懂 Phi-4-mini-instruct_rai_1.8.0_npu_16Kmodel.onnx、model.pb.bin 与 dd_metastate 文件结构一文详解读懂 Phi 4 mini instruct_rai_1.8.0_npu_16Kmodel.onnx、model.pb.bin 与 dd_metastateMeta-Llama-3.1-8B-Instruct_rai_1.8.0_npu_16K 文件结构全解析model.onnx、model.pb.bin 与 dd_metastate 清单Meta Llama 3.1 8B Instruct_rai_1.8.0_npu_16K 文件结构全解析model.onnx、model.pb.bin 与 dPhi-3.5-mini-instruct_rai_1.8.0_npu_16K 文件结构逐行拆解model.bin、model.onnx 与 dd_metastate 到底是什么Phi 3.5 mini instruct_rai_1.8.0_npu_16K 文件结构逐行拆解model.bin、model.onnx 与 dd_metas上一篇终极Android TV内存优化指南3步解决内存泄漏问题下一篇掌握GNU C语言预处理指令宏定义与条件编译实用教程创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
