事件:Cloudflare 开源 Clef 并上线自建 RL 微调服务
10 月 1 日北京时间晚间,Cloudflare 在官方博客发布 Clef 和 Clef-flash 两款决策模型,权重以 Apache 2.0 协议开源在 Hugging Face,同时上线 Workers AI 托管版本。原文标题写得很直接:开源决策模型,外加一个新的强化学习微调平台。
这是 Cloudflare 首次公开发布自己训练的机器学习模型。定位不是「更小的通用大模型」,而是另一类东西:决策模型。它接收一段状态描述和一组结构化问题,返回的不是文字,而是每个问题每个选项的概率值。宿主页面上模型标识是 @cf/cloudflare/clef,上下文窗口 65,536 token,支持视觉输入。
同一天,Cloudflare 还宣布由前置部署工程师团队(FDE)先以人工陪跑的方式提供微调服务,之后再开放自助平台。这套强化学习服务建立在 Cloudflare 自家已有的积木上:AI Gateway 抓取请求生成数据集,Workers AI 对基座模型做 rollouts,Containers 作为沙箱做打分与回放,一个新的 Trainer 组件更新微调权重,最后重新部署。原文链接在这里。
决策模型和大模型差在哪:为什么「不写字」是卖点
决策模型这个概念最近被频繁提起,Cloudflare 明确把 Typesafe 的 Jev 当作参照对象。用乐谱打比方,Clef 这个名字的意思是:谱号划定了音域和上下文,后面跟着的音符才有意义。放到工程里,决策模型负责回答「现在处于什么状态、该往哪走」,通用大模型负责回答「具体怎么做」。
两者的工程差别在输出形态。通用大模型要一个 token 一个 token 自回归地生成中间文本,再从文本里解析出结构化结果。决策模型跳过这一段,直接在内部表征上对 schema 里的合法选项打分,输出天然是类型化的概率。
这个差别会直接体现为成本和延迟。Cloudflare 说他们在威胁情报团队用它给网站域名分类:同一段流程里,Clef 抓取、渲染并分类一个域名用了 2.2 秒,而当时他们最快的通用模型 gpt-oss-120b 用了 4.7 秒,而且只返回两个分类。时间省了一半以上,模型多给了两倍信息。
编辑视角看,价值不在于「又一个模型」,而在于它把智能体里最频繁、最不需要创造力的那部分判断从大模型身上剥了下来。省下来的不只是延迟,还有按 token 计价的成本,以及输出解析失败需要重试的那部分隐性开销。
38.8 毫秒对 209 毫秒:两个模型的速度差怎么用
官方在 43 项评测上汇总了延迟数据。Clef 的中位延迟 209.3 毫秒,p95 延迟 238.6 毫秒;Clef-flash 的中位延迟 38.8 毫秒,p95 延迟 122.4 毫秒。对照的 Jev 是 524.1 / 536.0 毫秒,Kev-9B 是 51.4 / 187.9 毫秒,Laya 中位只有 5.8 毫秒但 p95 冲到 222.5 毫秒。
这组数字有个重点:中位数低不代表稳定,Laya 就是典型例子,抖动大到在 p95 上反而比 Clef-flash 还慢。如果把决策放进用户能感知到的路径上,比如输入框联想、实时风控、内容审核兜底,应该看 p95 而不是中位数。按这个标准,Clef-flash 的 122.4 毫秒是这批模型里最稳的。
两个模型的定位分工也很清楚:官方把更大的 Clef 称为精度模型,Clef-flash 定位为延迟敏感场景的选择。实际决策可以这样分:需要判断细微差别的(误判还是真违规、工单要不要立刻升级给人工)走 Clef;只需要粗粒度路由的(先判断意图大类、决定把请求丢给哪个处理器)走 Clef-flash。
另外是托管位置带来的额外收益。这两个模型跑在 Cloudflare 边缘的 GPU 上,网络往返时间被压得很低,所以官方可以把 Clef 放进智能体的热路径做判断,再交给 Workers AI 上的另一个大模型去执行动作——判断和执行分开部署,这是以前很难做到的架构。
27B 模型怎么做到 209 毫秒:冻结 Qwen 并行打分
27B 参数量的模型能在两三百毫秒内返回结果,关键在于它并不生成任何 token。原文披露的技术路径是:底座用 Qwen,Clef 冻结的是 Qwen3.8-27B,Clef-flash 冻结的是 Qwen3.5-9B,底座权重都不再更新,只联合优化路由头和 rank-256 的低秩适配器。
推理阶段分两步。第一步用 Qwen 做一次 prefill-only 的前向计算,只读入不生成。第二步对 schema 里所有合法选项并行打分。决策步骤是非自回归的,中间没有任何需要逐 token 吐出来的文本,选项得分直接从骨干网络的内部表征导出。
为了保证不同选项之间能互相看见上下文,模型用了一个两阶段的注意力路由:每个候选选项各自抽取与问题相关的上下文,允许不同字段的参数互相注意,也允许它们回头看原始输入,然后再进入 schema 约束的打分。配合一个词法先验,保证模型不会因为选项顺序变化就给出不同判断。
训练上,官方用带标签平滑的交叉熵处理合法 schema 输出,再用 Brier 损失校准概率——这条很关键,决策模型的价值全在概率准不准,概率虚高或虚低都会让下游的阈值判断失效。此外还有一个叫 RLCD 的次要目标:给相邻序数选项部分得分、给完全精确的记录输出奖励、施加参考惩罚防止分布漂移。
和 Jev 对比:哪些基准赢了,哪些没赢
官方同时放出了 Jev Decision Index 下的完整对照表,值得挑几张看。工具调用格式遵循 Clef 98.47、Clef-flash 98.76、Jev 95.75;API 选择准确率 91.93 / 93.11 / 88.19;工具检索 nDCG@10 是 69.19 / 66.43 / 65.28;BANKING77 意图分类的宏 F1 是 94.20 / 90.93 / 79.74;CLINC150+OOS 的宏 F1 差距更大,97.43 对 89.27。
但不是全面领先,有三项是输的。BRIGHT 检索任务上 Jev 47.52 高于 Clef 的 45.91;When2Call(决定该不该把控制权交给人)Jev 80.97 明显高于 Clef 的 72.37;钓鱼识别则是 DiffusionGemma Jev 的 85.35 最高。在 Typesafe 自己的工作流评测套件里,Cloudflare 说四项中胜出三项,客户服务和发票处理都赢了。
怎么读这张表:意图分类、路由决策这类「有明确选项集」的任务上,Clef 的优势是稳定的;需要长时间检索、需要权衡是否该交还人类控制权的判断,官方自己的数据并不能证明它更强。视觉能力是一个结构性差异——Clef 带视觉编码器能直接对图片分类,而 Jev 目前只做文本分类。
如果要验证,最直接的办法是拿自己线上真实的判断任务做对照:抽一批已经人工标注过、且历史上真出过错的样本,分别让 Clef 和现有的大模型方案跑一遍,比的不是跑分而是标注一致率和误放率。
成本、接入方式和隐私承诺
成本在 Workers AI 文档页写得很清楚:@cf/cloudflare/clef 的计价是每百万输入 token 0.24 美元。这个数字要和替代方案放在一起看——原来若是用通用大模型做同一件事,成本不能按这个单价直接对比,因为通用模型的输出 token 也在计费,而决策模型根本不生成输出 token。
接入门槛是这次发布里比较友好的一点。模型完整兼容 Jev API,官方明确说切换成本极低:把原来的 Jev 端点换成 Cloudflare 的,输出结构不变。接口接受 state(文本或 JSON)和 questions 两部分,questions 里每道题可标成 choice、noul(是否)、score(打分)几种类型,带 criteria 就带候选范围。官方给了 TypeScript、Python 和 curl 三种示例。
隐私这块有一条明确承诺:官方声明不读取、不存储、也不用于训练客户的请求和响应,唯一例外是客户主动使用微调服务时。这条承诺和 AI Gateway 抓取流量生成数据集的做法存在天然张力——用微调产品的客户等于自己授权了这条链路,选之前要想清楚边界在哪。模型本身 Apache 2.0 开源,可完全在本地跑,不产生任何数据外流。
哪些团队该现在就换,哪些该继续等
适合谁该现在评估:手上已经有智能体在跑、且里面塞了一堆「让大模型做二选一」判断的团队。这类判断通常占智能体调用成本的大头,换成决策模型是最直接的成本优化。客服工单路由、内容审核分级、机器人流量识别、意图分类,都是官方自己列出的场景。延迟敏感产品同样适用,需要在几十毫秒内给出判断结果的,Clef-flash 比通用模型低一个量级。
该继续等的:核心问题本来就是开放式推理和生成的,决策模型帮不上忙,官方也没有主张替代大模型,它要占的是判断这一段。团队还没有稳定标注数据的,微调这条路先别想——微调是用特定领域的准确率换通用能力,而 Clef 通用版要替代它需要多年积累的标注决策数据。开源权重给了另一条路:本地跑,先用公开 benchmark 摸清天花板。
风险也要说清楚。决策模型的输出是一组概率,一旦概率校准不准,下游的阈值判断会系统性偏移,而且这种错误不会报错,只会让业务悄悄走错。官方自己的对照表里 When2Call 差距最大,72.37 对 80.97。所以凡涉及钱、权限或对外承诺的判断,建议保留人工复核这一道,不要只信概率。
接下来盯三件事。自助微调平台什么时候真正开放,官方说先人工陪跑再自助,现在还进不去。Jev Decision Index 被 Cloudflare 和其他厂商同时盯着,决策模型迭代很快,几个月的领先不代表长期优势。官方在文末也承认这还很早期——这是 Workers AI 团队第一个自训模型,底座和任务形态都还在调整。
编辑的判断是:这条消息的价值不在于又多了一个模型,而在于它验证了一件事——智能体的成本结构里,判断和执行本来就该分开定价。如果接下来几个月更多厂商跟进,今天还在用一个大模型包办所有环节的架构,会显得越来越贵。
来源与说明
本文由 AI 潮汐编辑部基于官方公告与公开资料整理,补充了行业影响、适用场景和行动建议,帮助你在阅读原文前先理解这条信息为什么重要。
原始来源:https://blog.cloudflare.com/clef-decision-models/
如发现事实、价格或链接有误,可通过 联系我们 提交更正。
常见问题
决策模型和大语言模型到底是什么区别,我什么时候该换?
决策模型不做文本生成,只针对你预先给定的选项集输出概率,答案天然结构化、不需要解析。判断是否紧急、该分给哪个团队、这算不算违规这类有明确选项的任务,换过去通常更快也更便宜。需要开放式推理和长文本生成的任务,决策模型帮不上忙,继续用大模型。
Clef 和 Clef-flash 该怎么选?
官方把 Clef 当精度模型、Clef-flash 当延迟敏感场景的选择。Clef-flash 中位延迟 38.8 毫秒、p95 122.4 毫秒,抖动更小;Clef 中位 209.3 毫秒但在一些细粒度分类基准上更准。判断链路对用户可见、要求稳定选 Flash,需要分辨细微差别的判断选 Clef。
要多少成本才能用起来?
Workers AI 上 @cf/cloudflare/clef 的定价是每百万输入 token 0.24 美元,没有输出 token 费用,因为模型不生成文本。也可以按 Apache 2.0 协议从 Hugging Face 下载权重本地跑,完全不产生外部调用和数据外流。本地跑的成本换成了推理硬件成本。
官方说能用我的数据微调,具体是怎么运作的?数据安全吗?
目前是由前置部署工程师团队人工陪跑做微调,之后才开放自助平台。链路是 AI Gateway 抓取你的真实请求生成数据集,Workers AI 对基座模型做 rollouts,Containers 做打分回放,Trainer 更新权重,最后重新部署。官方声明不读取不存储不训练客户请求和响应,但一旦使用微调服务就属于例外,选之前要评估自己的合规边界。
这些跑分可信吗?我该怎么自己验证?
跑分可以参考但不要直接采信,官方自己的对照表里就有三项输给 Jev,包括决定是否该交还人类控制权的 When2Call。务实做法是抽一批自己线上已标注的真实样本,让 Clef 和现有方案各跑一遍,比标注一致率和误放率,而不是比公开榜单名次。