Annunciando LangChain su Vertex AI per AlloyDB e Cloud SQL per PostgreSQL

LangChain è emerso come una piattaforma di orchestrazione LLM open-source di spicco, popolare tra gli sviluppatori di applicazioni. A marzo, Google Cloud ha introdotto l'integrazione open-source LangChain per i suoi database, tra cui Vector stores, Document loaders e Chat message history. Ora, Google Cloud ha annunciato l'integrazione gestita LangChain su Vertex AI, specificamente per AlloyDB e Cloud SQL per PostgreSQL. Questa integrazione consente agli sviluppatori di creare, distribuire e gestire agenti AI e framework di ragionamento in modo sicuro e su larga scala. Sfruttando la libreria LangChain, gli sviluppatori possono creare applicazioni AI generative personalizzate che si connettono alle risorse di Google Cloud e ai modelli di Vertex AI esistenti. Le funzionalità chiave includono un framework semplificato, modelli di agenti pronti all'uso, un servizio gestito per la distribuzione e modelli end-to-end per varie architetture AI utilizzando database di Google Cloud. LangChain su Vertex AI consente di distribuire applicazioni su un runtime gestito di Reasoning Engine, beneficiando di sicurezza, privacy, osservabilità e scalabilità. Sblocca potenti casi d'uso come l'interrogazione di database, la raccolta di conoscenze, i chatbot e l'utilizzo di strumenti, aumentando le capacità AI delle organizzazioni. Ad esempio, può trasformare domande in lingua naturale in query SQL o eseguire ricerche semantiche su dati non strutturati utilizzando il supporto vettoriale. I primi adottori come TM Forum hanno utilizzato con successo LangChain su Vertex AI per il loro AI Virtual Assistant (AIVA), dimostrando guadagni significativi di produttività e prestazioni robuste durante hackathon intensivi. L'integrazione ha facilitato le funzioni di backend, la sicurezza e la governance, abilitando soluzioni innovative nel soddisfacimento del cliente e nell'AIOps. Per gli utenti di AlloyDB e Cloud SQL per PostgreSQL, LangChain su Vertex AI offre una raccolta di conoscenze rapida, autenticazione sicura e contesto di storia chat. L'integrazione semplifica lo sviluppo di applicazioni di raccolta di conoscenze e migliora le prestazioni con indici vettoriali personalizzati. Sostiene anche la prototipazione rapida e la distribuzione gestita, trasformando prototipi testati localmente in distribuzioni pronte per l'impresa utilizzando l'infrastruttura di Vertex AI. In confronto, utilizzare LangChain su Vertex AI semplifica molti passaggi di workflow, come l'autorizzazione IAM, la gestione del database, lo sviluppo del codice e l'operazione dell'infrastruttura. Fornisce funzionalità di osservabilità integrate come Cloud Logging, Monitoring e Tracing, rendendo più facile la gestione delle applicazioni. Per iniziare, gli sviluppatori possono fare riferimento a tutorial basati su notebook e modelli per la distribuzione di applicazioni RAG con AlloyDB e Cloud SQL per PostgreSQL su LangChain per Vertex AI. Queste risorse evidenziano casi d'uso avanzati, abilitando la creazione e la distribuzione di applicazioni AI sofisticate.