【免费下载链接】North-Micro-Vision-Instruct-bf16项目地址https://ai.gitcode.com/hf_mirrors/mlx-community/North-Micro-Vision-Instruct-bf16点击查看免费下载North-Micro-Vision-Instruct-bf16 是一个专为Apple SiliconM 系列芯片优化的视觉语言模型Vision-Language ModelMLX 权重库。它由社区将 Cohere 的 North-Micro-Vision-Instruct 模型转换为 Apple MLX 格式采用BF16 全精度、无量化存储让你在自己的 Mac 上离线完成图像描述任务——给模型一张图片它就能输出一段文字说明全程不依赖云端 API隐私数据不出本机。 认识这个项目BF16 版视觉语言模型是什么简单来说这个仓库就是模型文件包里面装着可以直接在 Mac 上跑的权重、分词器和各类配置文件。它属于North Vision MLX 系列该系列还提供 4/5/6/8-bit、MXFP4、MXFP8 等低比特版本而本仓库是这个系列中精度最高的 BF16 版本。核心规格一览数据来自 config.json项目说明模型架构CohereCompassForConditionalGenerationcohere_compass任务类型图文对话image-text-to-text典型场景是图像描述语言塔28 层 Transformer隐藏维度 2048词表 262144视觉塔27 层 ViTpatch 尺寸 16支持 deepstack 多层特征融合上下文长度最高支持 50 万 token滑动窗口注意力 4096权重精度bfloat16未量化总大小约 4.6GB相当于约 25 亿参数授权协议Apache-2.0见 README.md 头部元信息为什么选 BF16它不做任何量化压缩输出质量最接近原始模型同时 4.6GB 的体积让8GB 统一内存的 Mac 也能流畅运行。如果你追求更高精度又愿意占用更多内存BF16 是最佳选择。 一键安装步骤5 分钟搭好 macOS 本地推理环境系统要求macOS 14 及以上Apple Silicon 芯片M1 / M2 / M3 / M4 均可已安装 Python 3.10可通过 Homebrew 安装brew install python安装运行框架 mlx-vlm本项目基于MLX-VLM框架推理一条命令即可完成安装pip install -U mlx-vlm⚠️ 注意Cohere Compass 架构的支持在 mlx-vlm 的较新版本中提供如果运行时提示不支持该架构请升级到最新版本后重试。MLX 是 Apple 官方的机器学习框架会自动使用 Mac 的统一内存和 GPU 加速核心无需配置 CUDA、无需下载驱动这也是5 分钟上手的关键。️ 最快配置方法3 行命令生成第一张图像描述安装完成后直接运行图像描述mlx_vlm.generate \ --model mlx-community/North-Micro-Vision-Instruct-bf16 \ --image /path/to/image.jpg \ --prompt Describe this image. \ --max-tokens 512 \ --temperature 0.0首次运行时框架会自动下载模型权重约 4.6GB之后的调用都是纯本地推理速度很快。常用参数说明参数作用建议值--model模型名称或本地路径仓库名或 clone 后的本地目录--image图片路径也支持直接传图片 URL本地 JPG/PNG--prompt提示词决定输出风格想拿中文说明可换成请描述这张图片--max-tokens最大生成长度512 足够描述一张图--temperature随机性0.0 表示结果确定、可复现描述类任务建议 0.0模型默认采样参数为temperature 0.7 / top_p 0.8 / top_k 20见 generation_config.json命令行参数会覆盖这些默认值。 离线跑模型clone 权重到本地 Mac如果处于内网环境、或者想让团队共享同一份权重可以先把仓库 clone 到本地再用--model指向本地目录git clone https://gitcode.com/hf_mirrors/mlx-community/North-Micro-Vision-Instruct-bf16 mlx_vlm.generate \ --model ./North-Micro-Vision-Instruct-bf16 \ --image /path/to/image.jpg \ --prompt Describe this image.这样推理时完全不需要联网图片数据也不会离开你的电脑。 关键文件速览权重、分词器与配置文件仓库结构非常干净每个文件都有明确职责文件作用model.safetensors模型权重本体BF16语言塔 视觉塔model.safetensors.index.json权重索引记录每个张量在权重文件中的位置config.json模型结构配置28 层语言塔、27 层视觉塔、滑动窗口等generation_config.json默认生成参数temperature、top_p、top_ktokenizer.json分词器词表与规则Cohere 分词器tokenizer_config.json分词器配置含图像/视频特殊 token 及像素范围chat_template.jinja多轮对话模板preprocessor_config.json图像预处理参数归一化、缩放、patch 尺寸 16processor_config.json图文处理器CohereCompassProcessor总配置special_tokens_map.json特殊 token 映射BOS、EOS、图像占位符等video_preprocessor_config.json视频预处理参数模型同样定义了视频输入能力 图像输入的像素数会被自动限制在 16384 ~ 3868706 之间见 tokenizer_config.json 中的min_pixels/max_pixels所以超大图片也能安全喂给模型无需手动压缩。❓ 常见问题 FAQQ1内存RAM够用吗BF16 权重约 4.6GB加上推理开销8GB 统一内存的 Mac 即可运行16GB 以上体验更佳。如果内存紧张可以换用 North Vision MLX 系列中更低比特的量化版本体积更小、速度更快详见 README.md 中提到的系列介绍。Q2为什么第一次运行特别慢首次调用需要下载约 4.6GB 的模型权重并缓存到本地后续调用不再重复下载。Q3能输出中文描述吗模型本身以英文为主。可以直接在--prompt中用中文提问如请用中文描述这张图片多数情况下模型会跟随提示词语言作答。Q4能用来处理视频吗仓库中包含视频预处理配置video_preprocessor_config.json与视频 token 定义但本指南聚焦最稳定的图像描述场景视频用法请以 mlx-vlm 的最新版本能力为准。Q5转换过程会不会改变模型效果不会。MLX 转换只改变权重存储格式与精度不改变原始模型架构与预期行为模型能力、限制与使用规范以原始模型说明为准。 走到这里你已经在一台 Mac 上完成了安装框架 → 拉取权重 → 生成第一条图像描述。剩下的就是把你相册里的照片一张张喂给 North-Micro-Vision-Instruct-bf16 试试看了。赞分享【免费下载链接】North-Micro-Vision-Instruct-bf16项目地址https://ai.gitcode.com/hf_mirrors/mlx-community/North-Micro-Vision-Instruct-bf16点击查看免费下载相关推荐用North-Micro-Vision-Instruct-mxfp4实现本地图像理解从命令行到图片描述的完整实战教程用North Micro Vision Instruct mxfp4实现本地图像理解从命令行到图片描述的完整实战教程 本教程带你用多模态大模型 North M如何在Mac上3步跑通North-Micro-Vision-Instruct-mxfp4MLX-VLM视觉语言模型快速上手指南如何在Mac上3步跑通North Micro Vision Instruct mxfp4MLX VLM视觉语言模型快速上手指南 North Micro VisGameDevMind 游戏程序员职业发展路径从初级到技术主管的能力要求、图谱学习资源与成长方法GameDevMind 游戏程序员职业发展路径从初级到技术主管的能力要求、图谱学习资源与成长方法 本文基于 GameDevMind 仓库中的职业路径专题文档创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
