完全で機能的なAIシステムを構築する最終段階は、AIの長期的な安全な運用を確保するための組織的インフラストラクチャを確立することです。これには、悪意のある入力をブロックしたり、システムの品質を評価したりするような技術的な安全対策の実装が含まれます。さらに、ガバナンス、リスク管理、監査ログを含む、組織的および規制上の安全対策も必要です。2024年8月に施行されたEU AI法は、AIシステムを禁止、高リスク、限定リスクの3つのリスクティアに分類することを義務付けています。RAGシステムは限定リスクに分類され、透明性義務と、ユーザーがAIと対話していることの開示が必要となります。EU AI法を遵守するためには、組織全体で使用されているすべてのAIシステムを一元管理するためのAIシステムインベントリが必要となります。また、AIシステムのAIシステムリスクを定量的に評価し、緩和策の推奨を提供するリスク評価モジュールも必要となります。さらに、AIシステムのすべての操作を記録し、EU AI法第12条を遵守するための監査ログモジュールが必要となります。監査ロガークラスは、すべてのAI操作をJSONLファイルに記録し、イベントのログ記録、最近のイベントの取得、コンプライアンスレポートの生成のためのメソッドを提供します。全体として、堅牢な組織的インフラストラクチャの確立は、AIシステムの安全で責任ある運用を確保するために不可欠です。EU AI法はコンプライアンスのためのフレームワークを提供し、必要な対策を実装することで、組織はAIシステムが透明性があり、説明可能で、公平であることを保証することができます。組織的および規制上の安全性を優先することで、組織はユーザーやステークホルダーとの信頼を築き、AIシステムが社会の利益のために使用されることを保証できます。