9B打赢30B国产开源模型NeoHorse-1出手端侧AI的军备竞赛换赛道了【免费下载链接】NeoHorse-1-9B项目地址: https://ai.gitcode.com/hf_mirrors/TokenRhythm/NeoHorse-1-9B最近AI圈有个挺反常识的消息一个只有90亿参数的小个子模型在十项测试的平均分上把参数量是它三倍多的30B模型给压了下去。更让人意外的是这事儿不是哪家巨头发的新一代旗舰而是一家成立不久的国内公司——基元律动TokenRhythm拉着无问芯穹、清华、北大、阿里一起做出来的开源模型名字叫NeoHorse-1这次放出来的是9B版本。消息传开后技术社区里已经有人开始拆它了从Windows本地部署到Linux服务器从Ollama到vLLM教程一篇接一篇。而今日头条上关于它的讨论也从这马是什么来头一路聊到了端侧AI是不是要变天了。先把结论放前面这不是一次普通的模型升级而是一次考试科目的更换。一、先看成绩单小个子是怎么赢的官方给出的十项测试平均分是这样的NeoHorse-1-9B69.04它的老师Qwen3.5-9B65.6030B的Muse-Glimmer67.8612B的Gemma-463.518B的Granite-4.260.57平均分涨了3.44看着不算炸裂。但拆开看单项就有意思了。在多轮对话调用工具的 τ²-Bench 上它拿了90.82是整个榜单第一在模拟真实办公场景的 PinchBench 上拿了82.25比自己的基座高出7.7分函数调用测试BFCL v4拿到67.43也是第一。而写代码的HumanEval它拿了98.17分——满分100。当然也有偏科的地方在严格按指令格式输出这类测试上它和基座基本持平有一项还微降了0.37分。这恰恰说明了一件事这匹马把力气全花在把活干完上而不是把话说漂亮上。二、它到底是个啥一匹会自己找教练的马官方的说法很拗口叫面向递归自我改进RSI的Agent原生模型。翻译成人话就是它是一个不满足于回答问题而是被训练成接任务、查资料、动手干、干砸了再返工的AI。打个比方。普通聊天模型像一个知识渊博但手脚不利索的顾问你问他什么他都能说但你让他去把事办了他可能中途就卡住了。NeoHorse-1更像一个带工牌的项目助理接到活儿先判断难度难的自己啃啃不动就去搬救兵干完还要自己检查一遍。它背后的做法官方起了个名字叫路由脚手架Routing Harness。你可以理解成一个调度台用户每提一个需求调度台先判断这活儿有多难然后决定派C0到C3哪个等级的资源去处理——C0是简单活儿C3是压箱底的精锐。关键在于调度台会把整个过程录下来怎么判断的、派了谁、用了什么工具、最后成没成。这些工作录像不会白录。它们被清洗、打分、分类之后回过头变成了模型下一轮的训练教材。模型干得越多教材越厚教材越厚模型越能干。这就是所谓递归自我改进的朴素版本——一匹会自己找教练、还会给教练提意见的马。三、三个最接地气的真本事光说架构没意思我们看几个官方放出来的真实案例。第一件它会返工。在一个会议纪要式的任务里基座模型读完了文件发现数据对不上于是反复改、反复重写但最后还是把26张工单和30条记录混在一起逻辑打架。NeoHorse-1-9B的做法是先把时间、部门、渠道三条线拆开排除掉不该算的记录最后报出50条有效记录、19张工单跟人工重算的结果对得上。它未必完美——官方也承认它在状态标签上错了两个——但它知道自己错在哪、肯回头查这个差别在实际办公里太致命了。第二件它会换路子。有个数据分析任务模型跑进去发现环境里没装pandas这个工具库。基座模型的选择是一遍遍尝试安装、手写解析、打补丁越试越乱最后报告没出来。NeoHorse-1-9B发现这条路走不通直接放弃改用Python自带的表格库硬啃把分析做完了。结果很直观请求次数少了约70.8%耗时少了76.7%消耗的token少了83.6%。对企业来说这三个数字就是账单。同样一个活别人烧三倍的钱你烧一份。第三件它写得出一盘能玩的五子棋。这个案例特别有意思。官方让两个模型都用网页写一个五子棋小游戏然后模拟点了26下。基座模型写出来的页面能打开、棋盘能显示但点下去一颗子都不出现——因为它把鼠标坐标取错了26次点击全部报错。NeoHorse-1-9B写出来的页面26次点击全部正常黑白各13颗子落子位置、颜色、轮到谁下全对。能跑起来和真的能用中间隔着的就是这26次点击。四、军备竞赛的下半场比的不是参数是配套把视角拉远一点你会发现今年轻量模型的发布节奏明显加密了。IBM的Granite-4.2-8B主打企业私有化谷歌的Gemma-4-12B继续走开源可商用路线Ornith-1.5-9B专攻自我搭建能力国内还有Nanbeige-4.2-3B、Spark-X2.5-4B这类主打端侧的小模型。大家都在挤同一条赛道用更小的体积干更多的活。但真正的分水岭已经不在谁的分数高一点点。第一道坎是能不能跑得动。NeoHorse-1-9B的原始权重是BF16精度整套下来接近18GB普通笔记本的显卡是塞不进去的。想上家用设备必须经过量化压缩这就轮到llama.cpp、Ollama、GGUF这些工具出场了。第二道坎是跑了之后好不好用。量化会掉精度掉多少、哪些能力先掉各家差别巨大。社区里已经有人拿它做Q4、Q8的对比测试这就是生态在自我补课。第三道坎也是最要命的一道有没有调度层。模型再强也得有人告诉它什么时候该查资料、什么时候该调工具、什么时候该认怂。NeoHorse-1把这一层直接做进了训练流程里这才是它和其他刷榜模型最本质的区别。顺带一提它还有个4B的小兄弟叫NeoHorse-Jev-4B专门干做选择题的活给一堆候选答案它直接给出选择和概率不写长篇大论。技术社区里关于它的部署教程已经出了十几篇从客服工单分流到风控判断全是企业内网的真需求。这说明市场的胃口变了企业不缺会聊天的AI缺的是能拍板、能留痕、能算成本的AI。五、普通人想上手门槛到底多高说实话它不是给点点鼠标就能用的普通用户准备的。想正经跑起来你需要一块像样的显卡一套能装环境的电脑外加一点命令行基础。官方的部署方式面向的是SGLang、vLLM这类服务器框架属于工程师向的路径。但生态正在快速填坑。前面提到的Ollama、llama.cpp已经能接这类模型社区里的量化版本一旦跟上一台带独立显卡的游戏本就有机会跑起来。如果你只是想在本地体验一下AI帮我干活等一等量化包是最省事的路。适合谁中小企业IT负责人数据不能出内网又想要一个能操作表格、能读文档、能调内部系统的数字员工开发者想研究Agent怎么训练、怎么做工具调用这是一个完全开源、可商用、可拆开看的样本内容与运营团队批量处理长文档、做结构化整理26万token的上下文意味着它能一口气吞下一整本长篇资料科技发烧友想在家里那台机器上跑一个能自己返工的模型这就是当下最好的实验品之一。不适合谁只想找个聊天搭子、问天气查菜谱的朋友——那用网页版的大模型更省心。六、下一站的胜负手我押这三样聊到这儿可以做个预判了。轻量模型的下一轮比拼大概率不看参数表而看三件事一是数据回流的能力。谁能把用户真实使用中产生的轨迹低成本、高质量地变成下一轮训练数据谁就能滚起雪球。NeoHorse-1把这条路跑通了一次但官方自己也承认目前只验证了一轮循环能不能一轮轮滚下去、越滚越强还没有答案。二是端侧体验的打磨。量化之后还剩多少能力、内存占用能不能压到手机和车机级别、长时间运行的功耗怎么样——这些不上榜的指标才是普通人真正感知得到的东西。三是调度层会不会成为新入口。未来你用AI可能不再关心背后是4B还是9B只关心它有没有把事办成。谁掌握了什么活派给谁的调度权谁就掌握了用户。至于NeoHorse-1-9B本身它更像一块路标而不是终点。它证明了一件事在算力越来越贵的今天把模型训得更聪明这条路可能比把模型堆得更大更划算。最后一个问题留给你如果有一天你电脑里那个不联网的小模型能自己查资料、自己改错、自己把活干完你最先想让它替你干的是哪件事是整理那堆永远理不完的表格还是替你盯着群里那些永远回不完的消息【免费下载链接】NeoHorse-1-9B项目地址: https://ai.gitcode.com/hf_mirrors/TokenRhythm/NeoHorse-1-9B创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
