Strands Decider：给 Agent 做快速分类与评分的专用决策模型

先给结论：Strands Decider 不是一个能写长文或自由回答问题的聊天模型，而是一类围绕有限选项工作的 decision model。你给它一段 state，再提出“是否紧急”“该交给哪个团队”“挫败程度属于哪一级”等 typed question，它会返回选项分布和置信度。适合 agent 中可重复、可衡量、比调用大语言模型简单的路由或检查步骤；不能把它当成任意问题的思考替代品。

仓库由 Strands Labs 在 2026 年 9 月 29 日创建，截至 10 月 27 日约 714 星，主要实现为 Python CLI 和本地 HTTP 服务。README 提供 pip install strands-decider 与 strands-decider ask 示例，也可运行 serve 后通过 POST /v1/systemone 提交 JSON。API 的三种结果类型是 noul（是/否概率）、choice（多选一及每项概率）、score（有序等级的期望值、分布和置信度）。同一段 state 可同时问多个问题，模型只需读取一次共同上下文。

架构选择解释了它为何不生成文字：README 描述以预训练 decoder LLM 为骨干，移除语言建模 head，换成约一百万参数的 pointer/readout head，对候选选项打分，一次前向计算即可返回结果，不需要逐 token 解码。发布的 Qwen3.5 2B checkpoint 是 LoRA adapter 加小型 readout head；启动时还要从 Hugging Face 下载 base weights，官方 inference guide 标注约 4.5GB。一次决策可能很轻，但模型本身并非零资源插件。

项目在 10 月发布 v0.2.0，并给出新的 v1 模型命名。Qwen3.5 2B checkpoint 的模型卡列出 246,678 行训练混合数据，整合代码任务与规则应用问题，并称权重由三个 seed 的训练结果组成。Gemma 4 版本另有 E2B、E4B、12B 和 26B-A4B 多种尺寸。新用户应先确认 package 版本和模型 ID 是否匹配；若要组合本地 PyPI 包与主分支新功能，必须按 README 的安装说明验证，不要只复制 main 的命令到旧环境。

下面的工作流图把输入、问题类型和模型输出分开。置信度是针对所给选项的分布计算出来的，不是模型额外生成的自然语言解释，也不是所有数据域共用的可靠性保证。

项目方在公开 JevBench v1 的 231 个任务上报告 Qwen3.5 v1 得分 180/231，Brier 0.280、ECE 0.072；代码任务 1,996 条 held-out set 上报告 0.836。它们是维护者公布的特定评测，不能直接推出金融、医疗或内部客服数据上的准确率。仓库特别提醒 231 个外部任务仍不大，不同单次模型之间少于约 10 题的差异可能无法从重训噪声中分辨；MuSiQue 和 ContractNLI 的 dev split 训练数据使用了对应 train split，比较结果时须看清数据划分。

Serving 的边界尤其需要注意：README 说本地 HTTP server 监听 127.0.0.1 且没有鉴权，适合本机实验，不应不加反向代理认证就暴露到公网或共享网段。GPU、Apple MPS、CPU 有不同的延迟和依赖，MLX 为 Apple silicon 可选后端；发布模型的 base weights 还需下载。模型输出适合用来生成候选路由信号，最终动作应由业务阈值和权限规则决定。

校准做得好时，置信度有望把“自动执行”与“交给大模型/人工确认”分开。README 的 0.9 置信度约 95% 正确率来自作者所述的未见短分类任务，不能直接挪作团队上线门槛。先收集本行业标注集，按错误成本确定拒答区间，检查不同类别的校准误差，并监控问题改写、选项顺序和长文输入是否使置信度失真。长文要多步推理的任务，项目博客也提醒当前模型可能吃力。

第二张图概括模型尺寸与官方 JevBench 单次准确度。数字是开发团队在 231 个任务、相应设置下发布的数据；GPU 内存和中位延迟随尺寸及运行栈改变，不应把图表解读为普遍性能排名。

代码采用 Apache-2.0，模型卡也标出 Apache-2.0，并对训练数据来源和 license status 提供清单。不过每个基模型、数据集与部署依赖仍需单独确认许可；README 指出部分 Gemma 4 模型使用对应 Gemma 条款，训练配方也需要 Linux/WSL2 和 NVIDIA GPU。对于试验阶段可以从 2B 和本地单实例开始；当决策影响账户、资金、访问控制或敏感工单时，必须有明确的人类升级路径和可审计日志。

结论：Strands Decider 的新意是把 agent 的“窄决策”从自由文本生成中拆出来，并提供带置信度的 typed output。若任务天然有有限选项，值得拿自己的标注集做准确率、校准、延迟和拒答测试；若需要长链推理、解释新概念或创造开放内容，它不是替代通用 LLM 的合适工具。高星和榜单分数只能帮你发现项目，最终决策标准应由业务风险来定义。

硬件选择不能只看“2B”或 README 的一次 latency。项目公布的 115ms RTX 3090 数字来自一个 checkpoint、特定输入长度与评测流程；实际服务还包括首次下载约 4.5GB base weights、模型加载、并发、请求序列化和每次问题数。一次 state 里同时问多个问题可以共享文本前向，但如果每条请求单独调用，测到的成本和延迟会不同。CPU、MPS 与 CUDA 的输出最后几位也可能不一致。

一个稳妥的试用路径是先在本机用自有历史样本建验证集，分别算任务准确率、Brier/ECE、拒答率和业务错误成本；再按低置信度转人工或回退到通用模型。服务器默认只绑定 localhost 且没有认证，虽然适合单机试验，却不应直接暴露到共享网络。若部署在服务网段，先补访问控制、审计和限流，再连接会产生实际副作用的工具。

参考来源

• README 与源码；v0.2.0 release
• Inference guide；评测结果与限制
• Qwen3.5 v1 模型卡；Apache-2.0 许可证
• Strands Agents 官方 Gemma 4 模型公告