决策模型成为 AI 新产品类别
决策模型成为 AI 新产品类别
TypeSafe 宣布其 “Series AI” 后,围绕 Jev API 的讨论迅速升温。有说法称,该公司在上线首周已超过 1 亿美元 ARR,估值达到 75 亿美元。与此同时,多家厂商几乎同步推出或展示了类似的“决策模型”能力。
所谓决策模型,核心并不是生成一段自由文本,而是在一次前向计算中返回结构化答案,例如:
- 某个条件为真的概率;
- 从候选列表中选择一个答案;
- 按照给定等级进行评分;
- 为多个选项返回概率分布。
Jev 目前被许多项目视作对标对象,也带动了“决策模型”从功能形态变成一个独立产品类别。
主要进展
OpenAI Decisions API
OpenAI 的 Decisions API 提供三类请求:
- 判断某个条件为真的概率;
- 从列表中选择;
- 按等级进行评分。
它支持文本和图像输入,运行在 GPT-6 Luna 上。公开信息称,价格为每百万输入 token 0.10 美元,不收取输出费用;OpenAI 自称速度最高可快 10 倍。
Microsoft-Decision-1
Microsoft-Decision-1 被定位于 LLM 评审和科学假设筛选等场景。早期评测者指出,决策模型在一致性和复杂决策方面仍存在挑战。
Perplexity pplx-decider-v1.1-27b
Perplexity 发布 pplx-decider-v1.1-27b,并称其在 Decision Bench 的 1,071 个案例中达到 94.5% 准确率,价格为每 1,000 次决策 0.017 美元。
Cloudflare clef
Cloudflare 推出 clef 系列:
- clef-omni 支持音频、视频、图像和文本;
- clef-flash 价格低于 Jev;
- clef 整体速度约为 Jev 的 2 倍。
相关权重已在 Hugging Face 上发布。
Liquid d1
Liquid d1 已接入 Vercel AI Gateway,并支持视觉输入,可用于分类、路由和评分任务。
服务、路由与评测场景
vLLM Semantic Router 的 Decision 2.0 能在一次处理中针对同一输入回答多个问题,并为每个选项返回概率。
LangSmith 则将 Jev 用作评审器,在每条 trace 上分别返回难度、正确性等结构化判断。
这类能力受到关注的原因在于,许多 agent 步骤本质上并不是长文本生成,而是“是否继续”“选择哪个工具”“路由到哪个模型”等判断问题。LangChain 表示,将任务路由到成本最低且足够好的模型后,Open SWE 每项任务的中位成本下降了 64%。
自训练决策模型
Unsloth 发布了一个免费 notebook,可在 8GB 显存上将 Qwen3.5-4B 转成决策模型。
另有基于 Qwen3.5-0.8B 的 walkthrough 称,在 4GB 显存上约 10 分钟、60 步训练后,准确率从 37% 提升到 65%。
相关研究:Selection-based Structured Reasoning
Apple 与 CMU 的 Selection-based Structured Reasoning(SSR)也采用类似思路,将选择式结构化推理用于 agent 内部。
其方法是:对六种自然语言策略进行评分,使用长度归一化 log-likelihood,并在一次批处理前向计算中共享 KV cache。
公开结果显示:
- 单轮推理延迟下降超过 90%;
- 但端到端每题延迟只下降 28%–54%;
- 在 Qwen3-VL-4B + GRPO 上,平均成功率为 61.37%,对比 TAPO+GSPO 基线的 61.25%。
多智能体与编码工具动态
Claude Managed Agents 公测
Claude Managed Agents 的动态工作流进入公开 beta。其机制是:一个主 agent 先写出分阶段计划,再将任务分发给最多 1,000 个 agent,并合并结果。该能力通过 multiagent_20261001 启用。
Anthropic 同时提醒,应从范围较小的任务开始,因为 token 消耗可能很高。
Claude Code Projects 方面,所有候补名单中的 Pro 和 Max 用户已获准使用。每个项目可以以并行线程形式执行任务,且会话现在可在本地运行。
Opus 5.5 fast mode 已开始推出,但会计入使用额度,不包含在订阅内。
多 agent 团队是否划算?
Vals AI 使用 GPT-6 Sol 和 Opus 5.5 在 Vibe Code Bench 上进行了单体与团队模式测试。
结果显示:
- 团队模式成本增加 1.8–5.1 倍;
- 只有 Sol 在 medium effort 下有显著提升,提升 7.3 分;
- Sol 倾向于按架构并行分派任务;
- Opus 则以顺序波次运行,在最高 effort 下约达到 6.8 个子 agent、每个应用约 1,140 次子 agent 工具调用,但没有显著收益。
Prime Agent 用 Rust 重写自身
Prime Agent 在两周内通过超过 2,000 个 agent、1 万多个沙箱和 2,000 亿以上 GLM-5.3 token,完成了自身的 Rust 重写。
结果称:
- 达到可用输入状态的速度快约 13 倍;
- 启动内存减少 83%。
相关观点认为,随着上下文长度限制显现,agent swarm 会越来越重要。
Codex、Devin 与其他工具更新
Codex 近期更新包括:
- Windows sandbox:基于 Microsoft Execution Containers,提供更快设置、网络执行和更细粒度的文件控制;
- Composer predictions:可预测用户下一条消息,目前仅面向 Pro 用户 beta;
- 可靠性方面,有用户反馈出现持续一整天的服务中断;
- 有开发者表示 GPT-6.1 Sol 让 Codex 成为其主要工具,超过 Claude。
Devin 方面:
- Devin 现在可生成由托管 Devin 组成的树形结构,使总耗时更接近最慢分支,而不是所有分支耗时之和;
- Devin 也开始接受个人 ChatGPT 计划用于 GPT 使用。
此外,Grok Bot 获得了自己的邮箱地址,可用于注册和日程安排。
模型发布与评测
Qwen-Image-2.1-Turbo
Qwen-Image-2.1-Turbo 是 7B Qwen-Image-2.1 的加速版本,开放权重。它支持:
- 8 步 2K 图像生成;
- 自然语言图像编辑;
- 通过 Diffusers 的
QwenImage21Pipeline加载。
该模型与 Pro、Turbo API 同步推出。
StepFun Step 5 Preview
StepFun Step 5 Preview 是一个稀疏 MoE 模型,总参数 600B,激活参数 27B,支持 1M 上下文和视觉能力。
公开信息称:
- Hermes Index 得分为 33.89,与 GPT-6 Luna 持平;
- 在 Nous Portal 上限时免费一周;
- 曾登上 OpenRouter Trending 第一,但该榜单衡量的是使用量而非质量;
- 开放权重计划于 10 月 15 日发布;
- 最大输出已更正为 64K token。
小结
这批动态显示,AI 产品正在从“生成文本”进一步扩展到“结构化决策”。在 agent、路由、评测、分类和成本控制等场景中,直接输出概率、选择和评分,可能比完整生成更快、更便宜,也更容易接入工程系统。
不过,从早期反馈看,决策模型在一致性、复杂判断和实际端到端收益方面仍需要更多验证。
