Amazon CloudWatch ajoute l'observabilité par IA générative (Aperçu)

"Amazon CloudWatch vous aide maintenant à observer les applications et les charges de travail d'apprentissage automatique génératif, notamment les agents déployés et exploités avec Amazon Bedrock AgentCore (aperçu), en fournissant des informations sur les performances, la santé et la précision de l'IA. Vous obtenez une vue en boîte sur la latence, l'utilisation et les erreurs de vos charges de travail d'IA pour détecter les problèmes plus rapidement dans les composants tels que les invocations de modèles et les agents. Vous pouvez également trouver les problèmes plus rapidement en utilisant la traçabilité des prompts de bout en bout des composants tels que les bases de connaissances, les outils et les modèles. Cette fonctionnalité est compatible avec les frameworks d'orchestration d'apprentissage automatique génératif populaires tels que Strands Agents, LangChain et LangGraph, offrant une flexibilité avec votre choix de framework. Avec cette nouvelle fonctionnalité, Amazon CloudWatch analyse les données de télémétrie à travers les composants d'une application d'apprentissage automatique génératif, aidant à identifier rapidement la source des erreurs. Par exemple, vous pouvez identifier la source des réponses inexactes - qu'elle soit due à des lacunes dans votre VectorDB ou à des réessais incomplets du système RAG - en utilisant la traçabilité des prompts de bout en bout, les métriques et les journaux curatés. Cette vue connectée des interactions entre les composants aide les développeurs à optimiser les charges de travail plus rapidement pour offrir des niveaux élevés de disponibilité, de précision, de fiabilité et de qualité. Les développeurs peuvent maintenir les agents d'IA en fonctionnement en surveillant et en évaluant la flotte d'agents en un seul endroit. La vue curatée des agents est disponible dans l'onglet "AgentCore" de la console CloudWatch pour l'observabilité de l'IA génératif. L'observabilité de l'IA génératif est intégrée avec d'autres fonctionnalités CloudWatch telles que les signaux d'application, les alarmes, les tableaux de bord, la protection des données sensibles et les insights des journaux, vous aidant à étendre de manière transparente les outils d'observabilité existants pour surveiller les charges de travail d'IA génératif. Cette fonctionnalité est disponible en aperçu dans 4 régions : US East (N.Virginia), US West (Oregon), Europe (Frankfurt) et Asie-Pacifique (Sydney). Pour en savoir plus, visitez la documentation. Les tarifs CloudWatch s'appliquent pour les données de télémétrie collectées et stockées."