Typhoon OCR 1.5 2B 8位量化模型：苹果芯片上的终极泰英文档OCR解决方案

Typhoon OCR 1.5 2B 8位量化模型苹果芯片上的终极泰英文档OCR解决方案【免费下载链接】typhoon-ocr1.5-2b-8bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/typhoon-ocr1.5-2b-8bitTyphoon OCR 1.5 2B 8位量化模型是一款基于Qwen3-VL架构的视觉语言模型专为苹果芯片优化提供高效精准的泰英文档识别能力。该模型通过8位量化技术在保持识别精度的同时将体积压缩至约2.5GB实现了在Apple Silicon设备上的快速部署与运行。核心特性专为泰英文档设计的OCR解决方案多语言支持与结构化输出作为基于Qwen3-VL架构的视觉语言模型Typhoon OCR 1.5 2B专注于泰语和英语的文档理解任务。其输出采用结构化格式包括Markdown文本、HTML表格、LaTeX公式、图片描述标签和页码标记满足专业文档处理需求。8位量化技术平衡性能与效率该模型采用8位量化组大小64仿射模式实现约9.94位/权重的精度同时保持视觉编码器的高 precision。这一优化使模型体积减少约50%却不损失OCR识别 accuracy特别适合内存受限的苹果芯片设备。快速上手简单三步开始使用1. 安装依赖通过pip命令快速安装mlx-vlm库pip install -U mlx-vlm2. 准备官方提示词创建prompt.txt文件复制以下官方提示词确保完整保留格式Extract all text from the image. Instructions: - Only return the clean Markdown. - Do not include any explanation or extra text. - You must include all information on the page. Formatting Rules: - Tables: Render tables using table.../table in clean HTML format. - Equations: Render equations using LaTeX syntax with inline ($...$) and block ($$...$$). - Images/Charts/Diagrams: Wrap any clearly defined visual areas in figure.../figure with Thai descriptions. - Page Numbers: Wrap page numbers in page_number.../page_number. - Checkboxes: Use the unchecked / checked box characters as appropriate.3. 运行OCR识别执行以下命令处理图片文件将page.jpg替换为实际图片路径python -m mlx_vlm.generate \ --model mlx-community/typhoon-ocr1.5-2b-8bit \ --image page.jpg \ --prompt $(cat prompt.txt) \ --max-tokens 4096 \ --temperature 0.0 \ --repetition-penalty 1.1优化参数设置获取最佳识别效果为确保文档提取的准确性建议使用以下参数组合参数推荐值说明temperature0.0确定性解码避免字符幻觉repetition_penalty1.1防止表格单元格重复循环max_tokens4096为密集页面提供充足空间top_p0.6仅在温度0时生效图片处理建议对于A4文档推荐长边分辨率1500-2000像素以保证小字体清晰16GB内存设备应避免超大型图片以防内存不足。模型转换指南高级用户如需从基础模型自行转换可使用以下命令python -m mlx_vlm convert \ --hf-path typhoon-ai/typhoon-ocr1.5-2b \ --mlx-path typhoon-ocr1.5-2b-8bit \ -q --q-bits 8 --q-group-size 64许可证信息本模型采用Apache-2.0许可证继承自基础模型typhoon-ai/typhoon-ocr1.5-2b。项目文件结构模型包含以下核心文件配置文件config.json、generation_config.json量化信息quantization_config分词器配置tokenizer_config.json、vocab.json通过这些优化设计Typhoon OCR 1.5 2B 8位量化模型为苹果芯片用户提供了一个高效、精准的泰英文档OCR解决方案特别适合需要处理多语言文档的专业人士和企业用户。【免费下载链接】typhoon-ocr1.5-2b-8bit项目地址: https://ai.gitcode.com/hf_mirrors/mlx-community/typhoon-ocr1.5-2b-8bit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考