AWS AgentCore Runtime V2猛提算力!单会话8核+32GB,AI代理还能直接编译代码加载本地模型

62087592810653

AWS近日宣布扩充其在Amazon Bedrock体系下的AI代理托管执行环境AgentCore Runtime,并将新一代Runtime V2作为默认版本逐步推向各区域。对开发者最直观的变化是:单一工作阶段(single session)的CPU与内存上限被大幅上调至上一代的4倍。V2最多可提供8个虚拟CPU及32GB内存;同时,容器映像档容量上限也提升到10GB,让AI代理在执行环境内拥有更大的“动手能力”。

过去,AI代理往往更多停留在调用模型的层面,但当它们开始扩展到编译大型程序项目、操作浏览器、处理文件以及载入本地模型时,算力需求会显著增加。AgentCore Runtime的升级正是为这种“从对话走向执行”的能力升级服务:系统仍以Firecracker微型虚拟机为每个工作阶段提供硬件隔离,确保不同会话之间互不干扰;同时会根据负载动态调整CPU与内存分配。当代理处于空闲状态时,系统可以把运算资源降到零,以减少不必要的占用。

除了算力提升,V2还引入快照启动机制来缩短响应时间。平台会事先完成代理初始化并生成快照,后续启动新的工作阶段时直接从快照还原,从而省去重复加载程序和环境初始化的耗时。AWS给出的测试数据很有冲击力:在使用2GB容器映像且不调用AI模型的简单代理场景下,75%的工作阶启动时间可以在2秒以内;相比之下上一代长到约29.7秒。

在内存管理方面,V2也更“省钱”:代理释放内存后会在几分钟内回收资源,而不是等整个工作阶段结束才处理。AWS表示,对于需要多轮交互的AI代理,单一工作阶段最多可减少68%的计费内存用量,但这不等同于整体费用按同比例下降。

目前,Runtime V2已成为19个AWS区域中新建执行环境的默认版本,包含东京、首尔、新加坡以及马来西亚和泰国等。现有环境不会因为默认策略变化而立刻自动升级,开发者可通过平台版本参数platformVersion选择切换到V2,或保持旧版V1以控制兼容性。想让AI代理更快、更能“干活”,这次升级可以说是一次面向执行场景的关键加速。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注