AWS直接开源20亿参数“决策脑”,AI代理人不用大模型也能秒选工具!

62087502736638

近日,AWS旗下Strands团队把一款专门给AI代理人“快速做决定”的模型开源了——Strands Decider 2B。它主打不是生成长篇文字,而是在预先给定的选项里完成分类、工具选择以及安全判定,让代理在执行任务前先把路走对、走稳。该模型规模达到20亿参数,能够直接在本机CPU或GPU上运行,并以低延迟输出结果。与此同时,AWS也同步发布了模型权重、训练资料与训练代码,方便开发者复现与二次训练。

Strands Decider 2B会被放在“代理调用工具”的流程中使用:当智能体准备执行某个动作时,它可以先把对话内容和拟调用的工具信息交给Decider,让模型判断是否应该继续、选择哪条工具路径、或是否存在不满足安全条件的情况。举例来说,如果用户问天气但没有提供地点,Decider可以在代理准备直接调用天气工具之前识别信息不足,从而促使代理先向用户追问地点,而不是凭空猜测并直接发起查询。

与传统大型语言模型相比,决策模型的核心取舍在于结构化输出:它不以自由生成文本为主要目标,而是用“评分/选择”方式在固定选项间做决定。这样的设计往往带来更低延迟、更稳定的结果,且还能为每个候选决策提供可信度分数。

技术层面,Strands Decider 2B基于Qwen3.5-2B预训练模型改造而来:移除了负责生成文本的LM head,换上用于对答案选项进行评估的pointer head,因此它不再自由写作,而是直接从既定选项中做选择。AWS称这是第二个主要架构版本;早期采用slot head的方案表现更弱,目前公开模型已迭代到v19。

性能方面,AWS给出了本机推理的延迟数据:例如在Nvidia RTX 3090上中位决策时间约115毫秒,M3 MacBook处理小型任务时约153毫秒。当前,AWS已在GitHub公开Strands Decider 2B的源码、训练数据与示例,模型权重也已上架到Hugging Face,开发者可以直接把它纳入自己的代理系统中,给“决策层”加一颗更快、更可控的专用引擎。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注