완전하고 기능적인 AI 시스템 구축의 마지막 단계는 시간이 지남에 따라 AI의 안전한 운영을 보장하기 위한 조직적 인프라를 구축하는 것입니다. 여기에는 악의적인 입력을 차단하고 시스템 품질을 평가하는 것과 같은 기술적 안전 조치를 구현하는 것이 포함됩니다. 또한 거버넌스, 위험 관리, 감사 로깅을 포함한 조직 및 규제 안전 조치가 필요합니다. 2024년 8월 발효된 EU AI 법은 AI 시스템을 금지, 고위험, 제한적 위험의 세 가지 위험 등급으로 분류하도록 요구합니다. RAG 시스템은 제한적 위험으로 분류되며, 이는 투명성 의무와 사용자가 AI와 상호 작용하고 있다는 사실을 공개해야 합니다. EU AI 법을 준수하기 위해 조직 전체에서 사용되는 모든 AI 시스템을 중앙에서 관리하기 위한 AI 시스템 인벤토리가 필요합니다. 또한 AI 시스템 위험을 정량적으로 평가하고 완화 조치에 대한 권장 사항을 제공하기 위한 위험 평가 모듈이 필요합니다. 또한 AI 시스템의 모든 작업을 기록하고 EU AI 법 제12조를 준수하기 위한 감사 로깅 모듈이 필요합니다. 감사 로거 클래스는 모든 AI 작업을 JSONL 파일에 기록하고 이벤트 로깅, 최근 이벤트 검색, 규정 준수 보고서 생성을 위한 메서드를 제공합니다. 전반적으로 강력한 조직적 인프라를 구축하는 것은 AI 시스템의 안전하고 책임감 있는 운영을 보장하는 데 중요합니다. EU AI 법은 규정 준수를 위한 프레임워크를 제공하며, 필요한 조치를 구현하면 조직이 AI 시스템의 투명성, 설명 가능성 및 공정성을 보장하는 데 도움이 될 수 있습니다. 조직 및 규제 안전을 우선시함으로써 조직은 사용자와 이해 관계자와의 신뢰를 구축하고 AI 시스템이 사회의 이익을 위해 사용되도록 보장할 수 있습니다.