Vertex AI에서 AlloyDB 및 Cloud SQL for PostgreSQL 용 LangChain 발표

LangChain은 애플리케이션 개발자들 사이에서 인기 있는 오픈소스 LLM 오케스트레이션 프레임워크로 부상했습니다. 지난 3월, Google Cloud는 벡터 스토어, 문서 로더, 채팅 메시지 기록 등의 데이터베이스를 위한 오픈 소스 LangChain 통합을 도입했습니다. 이제 Google Cloud는 특히 AlloyDB와 PostgreSQL용 Cloud SQL을 위한 관리형 LangChain 통합을 Vertex AI에서 발표했습니다. 이 통합을 통해 개발자는 AI 에이전트와 추론 프레임워크를 대규모로 안전하게 구축, 배포, 관리할 수 있습니다. 개발자는 LangChain 라이브러리를 활용하여 Google Cloud 리소스 및 기존 Vertex AI 모델에 연결되는 맞춤형 생성 AI 애플리케이션을 만들 수 있습니다. 주요 기능으로는 간소화된 프레임워크, 즉시 사용 가능한 에이전트 템플릿, 배포를 위한 관리형 서비스, Google Cloud 데이터베이스를 사용하는 다양한 AI 아키텍처를 위한 엔드투엔드 템플릿이 있습니다. 랭체인 온 버텍스 AI는 애플리케이션을 추론 엔진 관리형 런타임에 배포하여 보안, 개인정보 보호, 가시성, 확장성 등의 이점을 누릴 수 있게 해줍니다. 데이터베이스 쿼리, 지식 검색, 챗봇, 도구 사용과 같은 강력한 사용 사례를 통해 조직의 AI 역량을 강화할 수 있습니다. 예를 들어, 자연어 질문을 SQL 쿼리로 변환하거나 벡터 지원을 사용하여 비정형 데이터를 의미론적으로 검색할 수 있습니다. TM 포럼과 같은 얼리 어답터들은 AI 가상 비서(AIVA)를 위해 버텍스 AI의 LangChain을 성공적으로 활용하여 집중적인 해커톤에서 상당한 생산성 향상과 강력한 성능을 보여주었습니다. 이 통합은 백엔드 기능, 보안 및 거버넌스를 촉진하여 고객 만족과 AIOps에서 혁신적인 솔루션을 가능하게 했습니다. AlloyDB 및 PostgreSQL용 Cloud SQL 사용자의 경우, Vertex AI의 LangChain은 빠른 지식 검색, 보안 인증 및 채팅 기록 컨텍스트를 제공합니다. 이 통합은 지식 검색 애플리케이션 개발을 간소화하고 사용자 정의 벡터 인덱스를 통해 성능을 향상시킵니다. 또한, 빠른 프로토타이핑과 관리형 배포를 지원하여 로컬에서 테스트한 프로토타입을 Vertex AI의 인프라를 사용해 엔터프라이즈급 배포로 전환할 수 있습니다. 이에 비해, 버텍스 AI에서 LangChain을 사용하면 IAM 인증, 데이터베이스 관리, 코드 개발, 인프라 운영과 같은 많은 워크플로우 단계가 간소화됩니다. 또한 클라우드 로깅, 모니터링, 추적과 같은 통합 가시성 기능이 기본 제공되므로 애플리케이션을 더 쉽게 관리할 수 있습니다. 시작하려면 개발자는 노트북 기반 튜토리얼과 템플릿을 참조하여 Vertex AI용 LangChain에서 AlloyDB 및 PostgreSQL용 Cloud SQL을 사용해 RAG 애플리케이션을 배포할 수 있습니다. 이러한 리소스는 정교한 AI 애플리케이션을 생성하고 배포할 수 있는 고급 사용 사례를 강조합니다.