运行时实例: Amazon Bedrock AgentCore上生产AI代理的持久计算

宣布Amazon Bedrock Agent核心持久的托管EC2基础架构中的运行时实例,适用于具有多代理协作、GPU支持和持续长达14天的会话的生产AI代理。

当您将AI代理从原型转移到生产时,基础设施挑战成倍增加。您的客服代表需要在运行数小时或数天的多步骤工作流程中保持状态。他们需要与其他代理协调,共享上下文,有时还需要访问GPU以执行专门的任务。

Amazon Bedrock AgentCore运行时microVM为调用提供了一个完全托管的环境,可以运行长达8小时,并通过托管会话存储支持状态化工作流。一些工作负载还受益于专用的大容量环境,例如,当代理需要连续运行多天、访问GPU或底层操作系统或在同一主机上运行多个协作代理时。

今天,我很高兴地宣布运行时实例,这是Amazon Bedrock AgentCore Runtime中的一个新的互补计算选项,为您的代理提供专为复杂代理工作负载构建的持久托管基础架构。运行时实例提供AWS托管的EC2基础架构,您可以在单个运行时中部署多个代理,每个代理都有自己的依赖关系和工件类型。

您的客服代表可以在持续长达14天的共享会话中就同一位房东进行协作。该服务支持计算密集型任务的GPU加速,会话停止/重启以节省闲置期间的成本,以及希望独立发货的团队的容器化部署。

对于需要在会话之外生存的知识,运行时实例可与Amazon Elastic Block Store (Amazon EBS)和AgentCore Memory自然配对,这使您的代理可以跨会话和环境进行长期召回。在今天之前,如果您想让代理运行数天,或者他们需要GPU访问或多代理协调,则必须自己构建和管理该基础架构。