Amazon CloudWatchが生成AIオブザーバビリティ（プレビュー）を追加

Amazon CloudWatch は、Amazon Bedrock AgentCore (プレビュー) でデプロイおよび運用されるエージェントを含む、生成 AI アプリケーションとワークロードのオブザーバビリティをサポートするようになりました。これにより、AI のパフォーマンス、ヘルス、および精度に関する洞察が得られます。モデルの呼び出しやエージェントなどのコンポーネントで、レイテンシ、使用状況、エラーをすぐに確認できるため、AI ワークロードの問題をより迅速に検出できます。また、ナレッジベース、ツール、モデルなどのコンポーネントのエンドツーエンドのプロンプト トレーシングを使用して、問題をより迅速に見つけることができます。この機能は、Strands Agents、LangChain、LangGraph などの一般的な生成 AI オーケストレーション フレームワークと互換性があり、フレームワークの選択において柔軟性を提供します。この新機能により、Amazon CloudWatch は生成 AI アプリケーションのコンポーネント全体にわたるテレメトリ データを分析し、エラーの原因を迅速に特定するのに役立ちます。たとえば、VectorDB のギャップや RAG システムの不完全な再試行など、不正確な応答の原因を、エンドツーエンドのプロンプト トレーシング、キュレーションされたメトリクス、およびログを使用して特定できます。コンポーネント間のやり取りをこのように接続して表示することで、開発者はワークロードをより迅速に最適化し、高い可用性、精度、信頼性、および品質を提供できます。開発者は、エージェントのフリートを 1 か所で監視および評価することで、AI エージェントをスムーズに実行し続けることができます。エージェントのキュレーションされたビューは、genAI オブザーバビリティのための CloudWatch コンソール の「AgentCore」タブで利用できます。生成 AI オブザーバビリティは、Application Signals、Alarms、Dashboards、Sensitive Data Protection、Logs Insights などの他の CloudWatch 機能と統合されており、既存のオブザーバビリティ ツールをシームレスに拡張して生成 AI ワークロードを監視できます。この機能は、4 つのリージョン (米国東部 (バージニア北部)、米国西部 (オレゴン)、欧州 (フランクフルト)、アジア太平洋 (シドニー)) でプレビューとして提供されています。詳細については、ドキュメントをご覧ください。収集および保存されたテレメトリ データには CloudWatch の料金が適用されます。