LangChain est apparu comme un cadre d'orchestration LLM open-source éminent, populaire auprès des développeurs d'applications. En mars, Google Cloud a introduit des intégrations LangChain open-source pour ses bases de données, notamment les magasins de vecteurs, les chargeurs de documents et l'historique des messages de chat. Maintenant, Google Cloud a annoncé l'intégration gérée de LangChain sur Vertex AI, spécifiquement pour AlloyDB et Cloud SQL pour PostgreSQL.
Cette intégration permet aux développeurs de concevoir, de déployer et de gérer des agents et des cadres de raisonnement AI de manière sécurisée et à grande échelle. En utilisant la bibliothèque LangChain, les développeurs peuvent créer des applications AI génératives personnalisées qui se connectent aux ressources Google Cloud et aux modèles Vertex AI existants. Les fonctionnalités clés comprennent un cadre simplifié, des modèles d'agents prêts à l'emploi, un service géré pour le déploiement et des modèles de bout en bout pour diverses architectures AI utilisant les bases de données Google Cloud.
LangChain sur Vertex AI permet de déployer des applications sur un moteur de raisonnement géré, en bénéficiant de la sécurité, de la confidentialité, de l'observabilité et de la scalabilité. Il débloque des cas d'utilisation puissants tels que l'interrogation de bases de données, la récupération de connaissances, les chatbots et l'utilisation d'outils, améliorant les capacités AI dans les organisations. Par exemple, il peut transformer des questions en langage naturel en requêtes SQL ou rechercher des données non structurées de manière sémantique à l'aide de la prise en charge des vecteurs.
Les premiers adoptants comme TM Forum ont utilisé avec succès LangChain sur Vertex AI pour leur assistant virtuel AI (AIVA), démontrant des gains de productivité significatifs et des performances robustes pendant les hackathons intensifs. L'intégration a facilité les fonctions backend, la sécurité et la gouvernance, permettant des solutions innovantes dans la satisfaction client et l'AIOps.
Pour les utilisateurs d'AlloyDB et de Cloud SQL pour PostgreSQL, LangChain sur Vertex AI offre une récupération rapide des connaissances, une authentification sécurisée et un contexte d'historique de chat. L'intégration simplifie le développement d'applications de récupération de connaissances et améliore les performances avec des index de vecteurs personnalisés. Il soutient également la prototypisation rapide et le déploiement géré, transformant des prototypes localement testés en déploiements prêts pour l'entreprise à l'aide de l'infrastructure Vertex AI.
Comparativement, l'utilisation de LangChain sur Vertex AI simplifie de nombreux étapes de workflow, telles que l'autorisation IAM, la gestion de base de données, le développement de code et l'exploitation d'infrastructure. Il offre des fonctionnalités d'observabilité intégrées telles que Cloud Logging, Monitoring et Tracing, facilitant la gestion des applications.
Pour commencer, les développeurs peuvent se référer à des tutoriels basés sur des notebooks et des modèles pour déployer des applications RAG avec AlloyDB et Cloud SQL pour PostgreSQL sur LangChain pour Vertex AI. Ces ressources mettent en évidence des cas d'utilisation avancés, permettant la création et le déploiement d'applications AI sophistiquées.
cloud.google.com
Announcing LangChain on Vertex AI for AlloyDB and Cloud SQL for PostgreSQL
Create attached notes ...