多くの組織は、ドキュメントにロックされた情報に苦労しており、従業員が特定の詳細を効率的に見つけることを困難にしています。従来のM手動検索は時間がかかり、商用ドキュメントAI製品は不透明な価格設定とデータレジデンシーの懸念を抱えていることがよくあります。これに対処するため、著者はオープンソースで自己ホスト可能、プロバイダーに依存しないRAGプラットフォームであるAI-DocumentIntelligenceを開発しました。このプラットフォームは、機密ドキュメントを処理するための透明性、交換可能性、監査可能性を目指しています。コア機能には、ドキュメントの取り込み、意味のあるチャンクへの分割、pgvectorを使用したPostgreSQLへのこれらのチャンクの埋め込み、自然言語の質問への回答が含まれます。主要な機能は、簡単な設定でOpenAIやAnthropicなどのLLMプロバイダーを切り替える機能です。技術スタックは意図的に標準的であり、React、Node.js、LangChain、PostgreSQLを使用しているため、これらのテクノロジーにすでに精通しているチームにとって展開が容易です。アーキテクチャは、UI、API、ドキュメント処理、AIレイヤーを分離しており、取得と生成のプロセスはデバッグを容易にするために明確に区別されています。主要な学習は、プロバイダーの抽象化、適切に調整されたチャンキング、堅牢なローカル開発セットアップの重要性を強調しています。資格情報でゲートされたAPIでの開発は課題を提示し、ローカル埋め込みモデルでの検証につながりました。著者は、このプロジェクトを、デジタルサービスデリバリーで遭遇する現実世界のワークフロー問題にLLMオーケストレーションを適用するためのより大きな取り組みの一部と見なしています。このプロジェクトは、ローカル開発と貢献のためにGitHubで利用可能であり、詳細なセットアップ手順はREADMEに記載されています。