发布日期

亚马逊开源 Strands Decider 2B:面向 Agent 工作流的小型决策模型,可本地跑

TechCrunch 与 Strands 官方博客称,亚马逊云服务(AWS)发布开源决策模型 Strands Decider 2B:在预设选项中做选择并给出置信度,基于 Qwen3.5-2B,可本机 CPU/GPU 运行;官方称中位延迟约数十到百余毫秒量级,并开源权重与训练数据。

据 TechCrunch 报道,亚马逊 Web Services 发布受 TypeSafe Jev 启发的开源决策模型。同周 OpenAI 也公布了类似方向的产品。亚马逊的 Strands Decider 2B 被描述为在预先给定的选项中做高速、低成本选择,并给出置信度;模型已开源,现已可用,体积小到可本地运行。技术骨干来自 AWS 杰出工程师 Marc Brooker:他看到 Jev 后自研,一度在同体量 Jevbench 榜上靠前,随后由 Strands Labs 整理发布。

Strands 官方博客写明:决策模型(亦称 system one models)不像大语言模型可任意生成文本,而是在给定选项中作答(是/否、多选、0–1 评分等),换取更快速度、更低延迟,并始终落在选定选项内;代价是复杂推理弱于推理模型,且不适合写代码、聊天与摘要。模型另给出可靠性分数,官方称这是前沿 LLM 推理 API 通常不提供的。架构上,团队取预训练 LLM 躯干 Qwen3.5-2B,去掉语言模型头,换上约百万参数的 pointer head,躯干以 rank-16 LoRA 微调。

官方给出的运行数字:约二十亿参数,适合本地 CPU 或 GPU;在常见硬件上中位决策延迟约 115ms(本地 Nvidia RTX 3090),小任务在 M3 MacBook 上中位约 153ms。JevBench 公开集上,官方称准确率与校准在 2B 档有竞争力(文中写 2B 档 33 个中第 3,排除略超 2B 的模型后 30 个中第 1)。用途举例包括模型路由、工具选择、评测、护栏、记忆与策略分类,以及用大模型做难题、用决策模型做例行判断的混合 Agent。安装命令为 pip install strands-decider;权重与代码放在 Hugging Face 与 GitHub。Brooker 对 TechCrunch 称,这类模型适合工作流下一步决策,因封闭答案域与置信度可提高可靠性,并潜在降低延迟与成本。上述延迟与榜单数字均为官方或受访方说法,并非本站实测。

来源

  1. Amazon releases its own Jev clone as decision models flood the web — TechCrunch AI
  2. Introducing Strands Decider 2B: a small, open source, decision model — strandsagents.com
在 ? 中打开这篇 →