Amazon CloudWatch fügt beobachtbare künstliche Intelligenz durch Generative AI hinzu (Vorschau)

Amazon CloudWatch hilft Ihnen jetzt bei der Beobachtung von generativen KI-Anwendungen und Workloads, einschließlich der mit Amazon Bedrock AgentCore (Vorschau) bereitgestellten und betriebenen Agenten. Sie erhalten Einblicke in die KI-Leistung, den Zustand und die Genauigkeit. Sie erhalten eine sofort einsatzbereite Ansicht von Latenz, Nutzung und Fehlern Ihrer KI-Workloads, um Probleme in Komponenten wie Modellaufrufen und Agenten schneller zu erkennen. Sie können auch Probleme schneller finden, indem Sie End-to-End-Prompt-Tracing von Komponenten wie Wissensdatenbanken, Tools und Modellen verwenden. Diese Funktion ist mit gängigen Orchestrierungs-Frameworks für generative KI wie Strands Agents, LangChain und LangGraph kompatibel und bietet Flexibilität bei der Wahl Ihres Frameworks. Mit dieser neuen Funktion analysiert Amazon CloudWatch Telemetriedaten über die Komponenten einer generativen KI-Anwendung hinweg und hilft so, die Fehlerquelle schnell zu identifizieren. Sie können beispielsweise die Quelle ungenauer Antworten ermitteln – sei es durch Lücken in Ihrer Vektordatenbank oder unvollständige RAG-System-Wiederholungsversuche –, indem Sie End-to-End-Prompt-Tracing, kuratierte Metriken und Protokolle verwenden. Diese vernetzte Ansicht der Komponenteninteraktionen hilft Entwicklern, Workloads schneller zu optimieren, um ein hohes Maß an Verfügbarkeit, Genauigkeit, Zuverlässigkeit und Qualität zu liefern. Entwickler können KI-Agenten reibungslos am Laufen halten, indem sie die Flotte der Agenten an einem Ort überwachen und bewerten. Die agentenkurierte Ansicht ist im Tab „AgentCore“ in der CloudWatch-Konsole für die GenAI-Observability verfügbar. Die Generative AI Observability ist mit anderen CloudWatch-Funktionen wie Application Signals, Alarms, Dashboards, Sensitive Data Protection und Logs Insights integriert, sodass Sie Ihre bestehenden Observability-Tools nahtlos erweitern können, um generative KI-Workloads zu überwachen. Diese Funktion ist in der Vorschau in 4 Regionen verfügbar: USA Ost (Nord-Virginia), USA West (Oregon), Europa (Frankfurt) und Asien-Pazifik (Sydney). Weitere Informationen finden Sie in der Dokumentation. Für gesammelte und gespeicherte Telemetriedaten gelten die CloudWatch-Preise.