生成AIのオブザーバビリティがAmazon CloudWat... ノート

生成AIのオブザーバビリティがAmazon CloudWatchで一般利用可能になりました

Amazon CloudWatch が、生成 AI オブザーバビリティの一般提供を開始しました。これにより、Amazon Bedrock AgentCore でデプロイおよび運用されているエージェントを含む、AI アプリケーションとワークロードのすべてのコンポーネントを監視できるようになります。今回のリリースでは、ランタイム監視だけでなく、AgentCore の組み込みツール、ゲートウェイ、メモリ、および ID 機能全体にわたる完全なオブザーバビリティが提供されます。DevOps チームと開発者は、モデル呼び出しからエージェント操作まで、AI ワークロードのすべてのコンポーネントにわたるレイテンシ、トークン使用量、エラー、およびパフォーマンスをすぐに確認できます。この機能は、Strands Agents、LangChain、LangGraph などの一般的な生成 AI オーケストレーションフレームワークと互換性があり、フレームワークの選択肢に柔軟性を提供します。この新機能により、CloudWatch は開発者が生成 AI アプリケーションのコンポーネント全体にわたるテレメトリデータを分析できるようにします。お客様は、組み込みツールでのコード実行パターンを監視し、ゲートウェイを介した API 変換の成功率を追跡し、メモリの保存と取得パターンを分析し、ID オブザーバビリティを通じて安全なエージェントの動作を確保できます。この接続されたビューは、開発者が VectorDB のギャップから認証の失敗まで、エンドツーエンドのプロンプトレース、厳選されたメトリクス、およびログを使用して問題を迅速に特定するのに役立ちます。開発者は、CloudWatch コンソールの「AgentCore」セクションを通じてエージェントフリート全体を監視できます。これは、Application Signals、アラーム、機密データ保護、Logs Insights などの他の CloudWatch 機能とシームレスに統合されています。この機能は現在、米国東部 (バージニア北部)、米国東部 (オハイオ)、米国西部 (オレゴン)、欧州 (フランクフルト)、欧州 (アイルランド)、アジアパシフィック (ムンバイ)、アジアパシフィック (東京)、アジアパシフィック (シンガポール)、およびアジアパシフィック (シドニー) で利用可能です。詳細については、ドキュメントをご覧ください。Gen AI オブザーバビリティの追加料金はありません。基盤となるテレメトリデータに対する既存の CloudWatch の料金が適用されます。