RSS DEV 社区
关注
ADR：在生产环境中采用 Amazon Bedrock AgentCore
作者身为 AWS 金融平台架构师，详细阐述了在受监管的金融环境中采用 Amazon Bedrock AgentCore 以运营 AI 代理的决策过程。传统方法难以应对关键运营问题，如凌晨 2 点的故障和监管合规性。五种关键力量促使必须立即寻求解决方案：管理跨轮次状态、确保监管可追溯性、实施稳健的护栏、控制不可预测的 Token 成本，以及实现运行时可移植性。作者考虑了多种方案，包括在 EKS 上自托管解决方案、上一代 Bedrock Agents 以及使用 Step Functions 配合 Lambda。
自托管 EKS 方案因运营责任重和工程成本高而被否决。上一代 Bedrock Agents 因可观测性有限和预算控制不足而被认为不够充分。尽管 Step Functions 在确定性工作流方面表现优异，但作为对话代理运行时仍显不足。Amazon Bedrock AgentCore 最终成为推荐方案，提供托管运行时，并原生支持会话记忆、护栏、可追溯性和工具调用功能。
选择 AgentCore 的决定性因素包括其支持每工具 OAuth2/OIDC 的网关，以及具备可配置 TTL 的托管会话记忆，这对金融领域的安全与合规至关重要。作者承认在运行时层面存在平台锁定（platform lock-in）的权衡，但强调底层工具的可移植性。文章提供了关于护栏、AgentCore 记忆、网关和 Token 预算的具体配置建议，突显其对高效且安全运营的重要性。文章还列出了可观测性指标，如 TurnsPerSession、TokensPerSession、ToolCallFailureRate 和 GuardrailInterventionRate，并说明如何利用 X-Ray 和 CloudTrail 进行详细追踪和监管审计。此外，作者还警示了潜在后果与风险，包括运行时锁定、保守配额、护栏延迟和记忆成本，呼吁谨慎接受并采取缓解策略。
