LangChain ist ein führendes Open-Source-LLM-Orchestrierungsframework, das unter Anwendungsentwicklern sehr beliebt ist. Im März kündigte Google Cloud die Open-Source-LangChain-Integrationen für seine Datenbanken an, darunter Vektor-Speicher, Dokumenten-Loader und Chat-Nachrichten-Historie. Jetzt hat Google Cloud die verwaltete LangChain-Integration auf Vertex AI, insbesondere für AlloyDB und Cloud SQL für PostgreSQL, angekündigt.
Diese Integration ermöglicht es Entwicklern, künstliche Intelligenz-Agenten und Schlußfolgerungsframeworks sicher und skalierbar zu bauen, bereitzustellen und zu verwalten. Durch die Nutzung der LangChain-Bibliothek können Entwickler benutzerdefinierte generative KI-Anwendungen erstellen, die mit Google Cloud-Ressourcen und bestehenden Vertex-AI-Modellen verbunden sind. Zu den Hauptmerkmalen gehören ein gestreamlines Framework, vorbereitete Agenten-Vorlagen, ein verwaltetes Dienstleistungsangebot für die Bereitstellung und End-to-End-Vorlagen für verschiedene KI-Architekturen mit Google Cloud-Datenbanken.
LangChain auf Vertex AI ermöglicht es, Anwendungen auf eine von Reasoning Engine verwaltete Laufzeitumgebung zu deployen und von Sicherheit, Datenschutz, Beobachtbarkeit und Skalierbarkeit zu profitieren. Es schaltet leistungsfähige Anwendungsfälle wie Datenbankabfragen, Wissensabruf, Chatbots und Werkzeugnutzung frei, um die KI-Fähigkeiten in Organisationen zu erhöhen. Zum Beispiel kann es natürlichsprachliche Fragen in SQL-Abfragen umwandeln oder unstrukturierte Daten mit Vektorunterstützung semantisch durchsuchen.
Frühe Anwender wie TM Forum haben LangChain auf Vertex AI erfolgreich für ihren KI-Virtual Assistant (AIVA) eingesetzt und demonstrierten signifikante Produktivitätssteigerungen und robuste Leistung während intensiver Hackathons. Die Integration erleichterte Back-End-Funktionen, Sicherheit und Governance, was innovative Lösungen im Kundenzufriedenheitsbereich und AIOps ermöglichte.
Für Anwender von AlloyDB und Cloud SQL für PostgreSQL bietet LangChain auf Vertex AI schnellen Wissensabruf, sichere Authentifizierung und Chat-Historie-Kontext. Die Integration vereinfacht die Entwicklung von Wissensabruf-Anwendungen und verbessert die Leistung mit benutzerdefinierten Vektor-Indizes. Es unterstützt auch schnelles Prototyping und verwaltetes Deployment, indem es lokal getestete Prototypen in unternehmensreife Deployments mit Vertex AIs Infrastruktur umwandelt.
Im Vergleich vereinfacht die Verwendung von LangChain auf Vertex AI viele Arbeitsablaufschritte, wie IAM-Autorisierung, Datenbankverwaltung, Codeentwicklung und Infrastruktur-Betrieb. Es bietet eingebaute Beobachtbarkeitsfunktionen wie Cloud-Logging, Überwachung und Tracing, was es einfacher macht, Anwendungen zu verwalten.
Um loszulegen, können Entwickler sich auf notebook-basierte Tutorials und Vorlagen für die Bereitstellung von RAG-Anwendungen mit AlloyDB und Cloud SQL für PostgreSQL auf LangChain für Vertex AI beziehen. Diese Ressourcen beleuchten fortgeschrittene Anwendungsfälle, um die Erstellung und Bereitstellung komplexer KI-Anwendungen zu ermöglichen.
cloud.google.com
Announcing LangChain on Vertex AI for AlloyDB and Cloud SQL for PostgreSQL
Create attached notes ...