决策模型成为 AI 新产品类别

Latent Space16 天前

决策模型成为 AI 新产品类别

TypeSafe 宣布其 “Series AI” 后,围绕 Jev API 的讨论迅速升温。有说法称,该公司在上线首周已超过 1 亿美元 ARR,估值达到 75 亿美元。与此同时,多家厂商几乎同步推出或展示了类似的“决策模型”能力。

所谓决策模型,核心并不是生成一段自由文本,而是在一次前向计算中返回结构化答案,例如:

  • 某个条件为真的概率;
  • 从候选列表中选择一个答案;
  • 按照给定等级进行评分;
  • 为多个选项返回概率分布。

Jev 目前被许多项目视作对标对象,也带动了“决策模型”从功能形态变成一个独立产品类别。

主要进展

OpenAI Decisions API

OpenAI 的 Decisions API 提供三类请求:

  • 判断某个条件为真的概率;
  • 从列表中选择;
  • 按等级进行评分。

它支持文本和图像输入,运行在 GPT-6 Luna 上。公开信息称,价格为每百万输入 token 0.10 美元,不收取输出费用;OpenAI 自称速度最高可快 10 倍。

Microsoft-Decision-1

Microsoft-Decision-1 被定位于 LLM 评审和科学假设筛选等场景。早期评测者指出,决策模型在一致性和复杂决策方面仍存在挑战。

Perplexity pplx-decider-v1.1-27b

Perplexity 发布 pplx-decider-v1.1-27b,并称其在 Decision Bench 的 1,071 个案例中达到 94.5% 准确率,价格为每 1,000 次决策 0.017 美元。

Cloudflare clef

Cloudflare 推出 clef 系列:

  • clef-omni 支持音频、视频、图像和文本;
  • clef-flash 价格低于 Jev;
  • clef 整体速度约为 Jev 的 2 倍。

相关权重已在 Hugging Face 上发布。

Liquid d1

Liquid d1 已接入 Vercel AI Gateway,并支持视觉输入,可用于分类、路由和评分任务。

服务、路由与评测场景

vLLM Semantic Router 的 Decision 2.0 能在一次处理中针对同一输入回答多个问题,并为每个选项返回概率。

LangSmith 则将 Jev 用作评审器,在每条 trace 上分别返回难度、正确性等结构化判断。

这类能力受到关注的原因在于,许多 agent 步骤本质上并不是长文本生成,而是“是否继续”“选择哪个工具”“路由到哪个模型”等判断问题。LangChain 表示,将任务路由到成本最低且足够好的模型后,Open SWE 每项任务的中位成本下降了 64%。

自训练决策模型

Unsloth 发布了一个免费 notebook,可在 8GB 显存上将 Qwen3.5-4B 转成决策模型。

另有基于 Qwen3.5-0.8B 的 walkthrough 称,在 4GB 显存上约 10 分钟、60 步训练后,准确率从 37% 提升到 65%。

相关研究:Selection-based Structured Reasoning

Apple 与 CMU 的 Selection-based Structured Reasoning(SSR)也采用类似思路,将选择式结构化推理用于 agent 内部。

其方法是:对六种自然语言策略进行评分,使用长度归一化 log-likelihood,并在一次批处理前向计算中共享 KV cache。

公开结果显示:

  • 单轮推理延迟下降超过 90%;
  • 但端到端每题延迟只下降 28%–54%;
  • 在 Qwen3-VL-4B + GRPO 上,平均成功率为 61.37%,对比 TAPO+GSPO 基线的 61.25%。

多智能体与编码工具动态

Claude Managed Agents 公测

Claude Managed Agents 的动态工作流进入公开 beta。其机制是:一个主 agent 先写出分阶段计划,再将任务分发给最多 1,000 个 agent,并合并结果。该能力通过 multiagent_20261001 启用。

Anthropic 同时提醒,应从范围较小的任务开始,因为 token 消耗可能很高。

Claude Code Projects 方面,所有候补名单中的 Pro 和 Max 用户已获准使用。每个项目可以以并行线程形式执行任务,且会话现在可在本地运行。

Opus 5.5 fast mode 已开始推出,但会计入使用额度,不包含在订阅内。

多 agent 团队是否划算?

Vals AI 使用 GPT-6 Sol 和 Opus 5.5 在 Vibe Code Bench 上进行了单体与团队模式测试。

结果显示:

  • 团队模式成本增加 1.8–5.1 倍;
  • 只有 Sol 在 medium effort 下有显著提升,提升 7.3 分;
  • Sol 倾向于按架构并行分派任务;
  • Opus 则以顺序波次运行,在最高 effort 下约达到 6.8 个子 agent、每个应用约 1,140 次子 agent 工具调用,但没有显著收益。

Prime Agent 用 Rust 重写自身

Prime Agent 在两周内通过超过 2,000 个 agent、1 万多个沙箱和 2,000 亿以上 GLM-5.3 token,完成了自身的 Rust 重写。

结果称:

  • 达到可用输入状态的速度快约 13 倍;
  • 启动内存减少 83%。

相关观点认为,随着上下文长度限制显现,agent swarm 会越来越重要。

Codex、Devin 与其他工具更新

Codex 近期更新包括:

  • Windows sandbox:基于 Microsoft Execution Containers,提供更快设置、网络执行和更细粒度的文件控制;
  • Composer predictions:可预测用户下一条消息,目前仅面向 Pro 用户 beta;
  • 可靠性方面,有用户反馈出现持续一整天的服务中断;
  • 有开发者表示 GPT-6.1 Sol 让 Codex 成为其主要工具,超过 Claude。

Devin 方面:

  • Devin 现在可生成由托管 Devin 组成的树形结构,使总耗时更接近最慢分支,而不是所有分支耗时之和;
  • Devin 也开始接受个人 ChatGPT 计划用于 GPT 使用。

此外,Grok Bot 获得了自己的邮箱地址,可用于注册和日程安排。

模型发布与评测

Qwen-Image-2.1-Turbo

Qwen-Image-2.1-Turbo 是 7B Qwen-Image-2.1 的加速版本,开放权重。它支持:

  • 8 步 2K 图像生成;
  • 自然语言图像编辑;
  • 通过 Diffusers 的 QwenImage21Pipeline 加载。

该模型与 Pro、Turbo API 同步推出。

StepFun Step 5 Preview

StepFun Step 5 Preview 是一个稀疏 MoE 模型,总参数 600B,激活参数 27B,支持 1M 上下文和视觉能力。

公开信息称:

  • Hermes Index 得分为 33.89,与 GPT-6 Luna 持平;
  • 在 Nous Portal 上限时免费一周;
  • 曾登上 OpenRouter Trending 第一,但该榜单衡量的是使用量而非质量;
  • 开放权重计划于 10 月 15 日发布;
  • 最大输出已更正为 64K token。

小结

这批动态显示,AI 产品正在从“生成文本”进一步扩展到“结构化决策”。在 agent、路由、评测、分类和成本控制等场景中,直接输出概率、选择和评分,可能比完整生成更快、更便宜,也更容易接入工程系统。

不过,从早期反馈看,决策模型在一致性、复杂判断和实际端到端收益方面仍需要更多验证。

评论

请登录后发表观点

暂无数据