Generative KI-Observability jetzt allgemein für Amazon CloudWatch verfügbar
Amazon CloudWatch gibt die allgemeine Verfügbarkeit von Generative-AI-Observability bekannt und hilft Ihnen, alle Komponenten von KI-Anwendungen und -Workloads zu überwachen, einschließlich Agenten, die mit Amazon Bedrock AgentCore bereitgestellt und betrieben werden. Diese Version erweitert die Laufzeitüberwachung um eine vollständige Beobachtbarkeit über die integrierten Tools, Gateways, den Speicher und die Identitätsfunktionen von AgentCore. DevOps-Teams und Entwickler erhalten jetzt eine sofort einsatzbereite Ansicht von Latenz, Token-Nutzung, Fehlern und Leistung über alle Komponenten ihrer KI-Workloads hinweg, von Modellaufrufen bis hin zu Agentenoperationen. Diese Funktion ist mit gängigen Orchestrierungs-Frameworks für generative KI wie Strands Agents, LangChain und LangGraph kompatibel und bietet Flexibilität bei der Wahl Ihres Frameworks. Mit dieser neuen Funktion ermöglicht CloudWatch Entwicklern die Analyse von Telemetriedaten über Komponenten einer generativen KI-Anwendung hinweg. Kunden können Codeausführungsmuster in integrierten Tools überwachen, Erfolgsraten von API-Transformationen über Gateways verfolgen, Speicherung und Abruf von Speichern analysieren und ein sicheres Agentenverhalten durch Identitätsbeobachtung sicherstellen. Die vernetzte Ansicht hilft Entwicklern, Probleme schnell zu identifizieren - von Lücken in VectorDB bis hin zu Authentifizierungsfehlern - mithilfe von End-to-End-Prompt-Tracing, kuratierten Metriken und Protokollen. Entwickler können ihre gesamte Agentenflotte über den Abschnitt "AgentCore" in der CloudWatch-Konsole überwachen, der sich nahtlos in andere CloudWatch-Funktionen wie Application Signals, Alarms, Sensitive Data Protection und Logs Insights integriert. Diese Funktion ist jetzt in US East (N. Virginia), US East (Ohio), US West (Oregon), Europa (Frankfurt), Europa (Irland), Asien-Pazifik (Mumbai), Asien-Pazifik (Tokio), Asien-Pazifik (Singapur) und Asien-Pazifik (Sydney) verfügbar. Um mehr zu erfahren, besuchen Sie die Dokumentation. Es gibt keine zusätzlichen Preise für Gen AI Observability, es gelten die bestehenden CloudWatch-Preise für die zugrunde liegenden Telemetriedaten.