L'observabilité de l'IA généra... Note

L'observabilité de l'IA générative est désormais généralement disponible pour Amazon CloudWatch

Amazon CloudWatch annonce la disponibilité générale de l'observabilité de l'IA générative, vous aidant à surveiller tous les composants des applications et des charges de travail d'IA, y compris les agents déployés et exploités avec Amazon Bedrock AgentCore. Cette version s'étend au-delà de la surveillance en temps réel pour inclure une observabilité complète des outils intégrés, des passerelles, de la mémoire et des capacités d'identité d'AgentCore. Les équipes DevOps et les développeurs peuvent désormais obtenir une vue prête à l'emploi de la latence, de l'utilisation des jetons, des erreurs et des performances de tous les composants de leurs charges de travail d'IA, des appels de modèles aux opérations des agents. Cette fonctionnalité est compatible avec les frameworks d'orchestration d'IA générative populaires tels que Strands Agents, LangChain et LangGraph, offrant une flexibilité dans le choix de votre framework. Avec cette nouvelle fonctionnalité, CloudWatch permet aux développeurs d'analyser les données de télémétrie de tous les composants d'une application d'IA générative. Les clients peuvent surveiller les schémas d'exécution du code dans les outils intégrés, suivre les taux de réussite de la transformation des API via les passerelles, analyser les schémas de stockage et de récupération de la mémoire et garantir un comportement sécurisé des agents grâce à l'observabilité de l'identité. La vue connectée aide les développeurs à identifier rapidement les problèmes - des lacunes dans VectorDB aux échecs d'authentification - en utilisant le traçage des invites de bout en bout, les métriques organisées et les journaux. Les développeurs peuvent surveiller l'ensemble de leur flotte d'agents via la section "AgentCore" dans la console CloudWatch, qui s'intègre de manière transparente aux autres fonctionnalités de CloudWatch, notamment Application Signals, Alarms, Sensitive Data Protection et Logs Insights. Cette fonctionnalité est désormais disponible dans les régions US East (N. Virginia), US East (Ohio), US West (Oregon), Europe (Francfort), Europe (Irlande), Asie-Pacifique (Mumbai), Asie-Pacifique (Tokyo), Asie-Pacifique (Singapour) et Asie-Pacifique (Sydney). Pour en savoir plus, consultez la documentation. Il n'y a pas de tarification supplémentaire pour l'observabilité de l'IA générative, la tarification CloudWatch existante pour les données de télémétrie sous-jacentes s'applique.