Jev 发布 20 天，8 个复刻版杀到：AI 的“反射弧”，已经被卷成什么样了

最近 AI 圈有个特别有意思的现象：大家不再比谁的模型更会“写作文”，而是比谁的模型更会“做判断”。

9 月 14 日，OpenAI 前研究员 Diogo Almeida 创办的 TypeSafe AI 扔出了一个叫 Jev 的模型。它不会聊天，不会写诗，甚至连一句完整的话都说不出来。它只会干一件事——看一眼你给的材料，在几十毫秒内从你列好的选项里挑一个答案。

就这么个“不会说话”的模型，20 天里引出了一整条赛道：8 个开源复刻版接连冒头，3 款能装进自家电脑的本地版上线，还有一堆人拿它去打游戏、开浏览器、审工单。

这场景，像极了当年智能手机刚出来时，全村都在做“平替”。

一、先说人话：Jev 到底是个啥？

你可以把现在的大模型想象成一位特别博学但特别啰嗦的老教授。

你问他“这封邮件是不是诈骗”，他不会直接说“是”，而是先沉吟两秒，然后在脑子里推演一遍，再一个字一个字往外蹦：“让我分析一下……首先，发件人地址存在异常……其次……”——等他推完，用户早就把页面关了。

Jev 走的是另一条路：它像一个守在门口的老保安。你把人和证件递过去，他扫一眼，抬手：“进”或者“不进”。整个过程不到一眨眼。

认知科学里管这个叫“双系统”：慢思考负责推理和创作，快思考负责条件反射。Jev 就是给 AI 装上的那根反射弧。

它只会三道题：

• 选择题：从你给的名单里挑一个，比如给客服工单分派给“账单组”还是“技术组”；
• 是非题：判断一个条件成不成立，比如“这张优惠券能不能用”；
• 打分题：按你定的档位打个分，比如把内容风险分成“正常、注意、高危”。

最关键的是，它不只给答案，还给每个选项的概率。比如“98.4% 该给账单组，1.1% 该给技术组”。这一下就把“AI 拍脑袋”变成了“AI 带着把握程度说话”，后面的程序就能根据把握大小，决定是自动放行还是转人工。

官方给的数据是：端到端 70 到 500 毫秒，输入每百万 token 约 0.042 美元，输出不要钱。有人算过，同样是分类判断，它比常规大模型快上百倍、便宜上百倍。

二、20 天时间线：一场没有预告的“全村复刻”

把日历摊开看，这条赛道的节奏快得有点不真实。

9 月 14 日，Jev 发布。起初不少人以为是个玩笑——创始人的名字和 Anthropic 的 CEO 读音太像了。直到社区放出用 Jev 毫秒级操控《DOOM》的录屏，大家才反应过来：这玩意儿是真能干活。

9 月 18 日，Bespoke Labs 甩出开源版 Nimble，基于通义千问 Qwen3.5-9B 微调。最离谱的是他们的自述：这个模型是一天做出来的。四天，从“别人发布”到“我也有个能跑的”。

9 月 22 日，Convai 系的 Laya 上线。它换了个思路，用更轻的编码器架构，实测单次判断 32.8 毫秒，比 Jev 快约 8 倍，权重全开、商用友好。

9 月 24 日，Nimble 升级：上下文拉到 8192 token，单个问题最多支持 255 个选项。什么意思？以前只能分“三大类”，现在理论上能把几百个细分品类一次摆上桌。

9 月 29 日，Ollama 更新到 0.35，直接把这套“决策模型”塞进了普通人电脑。首批三款：Nimble 9B、Together AI 的 Tev1 4B 和 0.8B。上线一周，Nimble 下载量 5.7 万，Tev1 直接冲到 11.5 万。

10 月 6 日，Nimble v3 在一个公开决策榜单上，拿下 250 亿参数以下开源模型第一。10 月 13 日，v4 和 27B 的 v4-max 上线，官方称在公开测试集上 v4-max 拿到 68.46 分登顶，v4 在 25B 以下排第一。

20 天，从“一个不会说话的模型”到“一条有原版、有平替、有分发渠道、有应用商店”的完整产业链。

三、8 个复刻版，其实走了 4 条完全不同的路

社区盘点里常被提到的 8 个项目——SemIf、Simple Jev、Laya、Von、Verdict、Kev、Nimble、OpenJev——看着都是“Jev 平替”，骨子里差别很大。

第一条路：借鸡生蛋。不训练，直接拿现成开源模型，只读取它对几个候选答案的“倾向分数”，再归一化成概率。好处是几行代码就能跑，坏处是模型天生“盲目自信”，说 99% 的时候可能只有六成把握。SemIf、Simple Jev 都属于这一类。

第二条路：另起炉灶做小模型。Laya 用 ModernBERT 这类编码器，一次前向就出结果，32 毫秒级别，跑在普通显卡甚至 CPU 上都行。代价是“见识”有限，选项超过二十几个就开始吃力。

第三条路：改造通义千问。这是目前最主流的做法，Nimble、Kev、Tev1 都是这么干的。保留大模型的常识和长文本理解力，只把“写作文”的能力换成“做选择”的能力。Kev 一口气做了 0.8B、4B、9B 三个尺寸，任君挑选。

第四条路：当成“阅读理解的判断题”。OpenJev 把材料当“前提”，把每个选项当“结论”，让模型判断二者是否说得通，用“说得通”的概率当答案。

四条路各有取舍：要极致快，就往小模型走；要懂复杂业务，就往大模型改；要零成本上手，就直接读现成模型的分数。

四、Nimble 出圈的原因：改一个字，答案就得翻

在 8 个复刻里，Bespoke 的 Nimble 最值得说，因为它把“怎么教 AI 做判断”这件事讲得特别明白。

他们的训练数据是成对造出来的：两段材料几乎一模一样，只改一个关键事实，正确答案就必须反过来。

举个他们自己给的例子。规则是“只有 Mira 有权批这个账户的退款”，材料里写着“这笔退款的唯一授权签字人是 Mira”，答案是“可以退”。把材料里的名字从 Mira 换成 Noah，其他一个字不动，答案立刻变成“不可以退”。

这种“一字之差、结论反转”的对照，逼着模型去学会：到底哪一句话才是真正决定结果的那句。而不是靠关键词碰运气。

效果也挺直观。在他们留出的 324 道“没见过的题”上：

• 未经改造的原版 Qwen3.5-9B，答对 66.36%；
• 改造后的 Nimble，答对90.12%；
• 闭源原版 Jev，答对 93.21%。

一个 9B 的开源模型，咬到了闭源原版背后 3 个百分点。

但换个考场，故事就不一样了。在 13 个带人工标注的公开数据集、3880 道题上，Nimble 平均 74.8%，Jev 76.0%——差距不大，可也没有反超。翻译成人话：在自己熟悉的题型上它很猛，到了陌生领域，还是原版更稳。

速度上，H100 显卡上单题中位 106 毫秒，Mac 笔记本上 444 毫秒，走 Ollama 本地跑，M5 Max 芯片上能压到 91 毫秒。这个数字意味着什么？意味着它可以被塞进“每一次点击”里，而不是“每一次请求”里。

五、普通人怎么上手？门槛比想象中低

这是这条赛道最讨喜的地方：它不要求你有一台服务器。

现在最省事的玩法，是装个 Ollama，然后在终端敲一句“拉取 nimble”，等一个 9.3GB 的模型下载完，就能在本机跑。苹果 M 系列芯片的笔记本，官方说单次判断能在一百毫秒内完成；有 64GB 内存的 Mac，体验会更从容。

如果你电脑配置一般，还有更轻的选择：Tev1 的 0.8B 版本只有八百多兆，塞进小内存机器也不喘；社区甚至有人做了 619MB、纯 CPU 就能跑的版本，短请求五十多毫秒出结果。

它跑起来是什么感觉？拿工单分派举例：

一段客户留言“我被重复扣款了，请把多扣的钱退回来”，丢进去，几乎同时返回三行结果——分类是“账单”（98.4% 的把握），是否明确要求退款为“是”（99.7%），紧急程度 0.69（介于“尽快”和“紧急”之间）。

没有一段解释，没有一句客套，就是干净利落的三个判断，附带各自的把握程度。对写程序的人来说，这种“直接给结果”的格式，比让大模型现编一段 JSON 再提心吊胆地解析，舒服太多。

所以它适合谁？

做产品的，可以拿它做工单分流、内容审核、模型路由；做自媒体的，可以用它批量给素材打标签、判断评论情绪；普通上班族，可以想象一个“自动把邮件分到四个文件夹”的小助手；爱折腾的发烧友，光是用它驱动浏览器自动订机票、打《吃豆人》，就够玩一晚上。

六、赛道竞争加剧：三个尚未解决的问题

热闹归热闹，这条赛道现在还有三道坎，谁都绕不过去。

第一道坎：概率不等于靠谱。模型说 90% 的把握，不代表它真有 90% 是对的。原版 Nimble 早期就出现过“平均自信 0.89，实际只对了 73%”的情况，后来靠调一个“温度”参数把话说得保守一些，才让概率和真实准确率对上。所以任何想拿“置信度”当自动放行开关的人，都得先在自己的数据上验一遍。

第二道坎：选项一多就发懵。二十几个选项内，大家表现都不错；一旦上到七十多个细分类别，准确率就开始往下掉。Nimble 虽然把上限推到 255 个选项，但“能摆上桌”和“能选得准”是两件事。业内的通用解法是分层：先分大类，再分小类，像查字典一样一级一级往下翻。

第三道坎：考卷不统一。有人用自家留出的 324 题，有人用 13 个公开数据集，有人用 534 题的公开题库，还有各种榜单各算各的。数字放在一起比，很容易变成“我家孩子全班第一”——只是没说是哪个班。

还有一个更本质的限制：单步判断没有“中间推理”。遇到需要绕两个弯的骗局，比如钓鱼邮件里层层伪装的身份，它就容易看走眼。有测试显示，往材料末尾随手加一句无关的“个人看法”，就能让原版 Jev 约有 12% 的判断发生翻转。

所以它从来不是“替代大模型”，而是站在大模型前面的那道筛子：八成常规请求在门口就被分流掉，剩下两成真正需要动脑子的，再交给会思考的模型。

有人算过一笔账：一天十万次请求的在线服务，如果八成请求被前置筛掉，月账单能从 2.5 万美元降到 5 千美元出头，中位延迟从 1.8 秒降到 25 毫秒。这才是它真正诱人的地方——不是更聪明，而是把聪明用在了刀刃上。

七、写在最后

回头看这 20 天，最有意思的不是某个模型跑分多了几分，而是整个行业的思路变了：过去大家默认“AI 就该像人一样思考、像人一样表达”，现在有人提出，大部分场景根本不需要它开口，只需要它点头或摇头。

红绿灯不需要写诗，门禁不需要讲道理，客服系统也不需要每次都用一段华丽的话来解释“为什么把你转给账单组”。

当一次判断的成本降到几厘钱、耗时降到几十毫秒，那些原本写死在代码里的“如果……就……”规则，可能真的会一个个被换掉。

那么问题来了：如果 AI 能在一眨眼间替你做出判断，你最想让它帮你判断什么？是这封邮件要不要回、这条评论要不要删，还是——今天中午到底吃什么？