Представляем LangChain на Vertex AI для AlloyDB и Cloud SQL для PostgreSQL

LangChain выдвинулся как популярный фреймворк для оркестрации крупных языковых моделей (LLM) с открытым исходным кодом, особенно среди разработчиков приложений. В марте Google Cloud представил открытые интеграции LangChain для своих баз данных, включая хранилища векторов, загрузчики документов и историю чатов. Теперь Google Cloud объявила о управляемой интеграции LangChain на Vertex AI, особенно для AlloyDB и Cloud SQL для PostgreSQL. Это интеграция позволяет разработчикам создавать, развертывать и управлять агентами ИИ и фреймворками для рассуждений безопасно и в крупном масштабе. Используя библиотеку LangChain, разработчики могут создавать настраиваемые приложения для генеративного ИИ, которые подключаются к ресурсам Google Cloud и существующим моделям Vertex AI. Ключевые функции включают упрощенный фреймворк, готовые шаблоны агентов, управляемую службу для развертывания и шаблоны от начала до конца для различных архитектур ИИ с использованием баз данных Google Cloud. LangChain на Vertex AI позволяет развертывать приложения в управляемом runtime-окружении Reasoning Engine, что обеспечивает безопасность, приватность, наблюдаемость и масштабируемость. Это открывает мощные варианты использования, такие как запросы к базам данных, извлечение знаний, чат-боты и использование инструментов, что улучшает возможности ИИ в организациях. Например, это может преобразовывать естественные языковые вопросы в запросы SQL или семантически искать неструктурированные данные с помощью векторной поддержки. Ранние пользователи, такие как TM Forum, успешно использовали LangChain на Vertex AI для своего виртуального помощника ИИ (AIVA), демонстрируя значительные приросты производительности и надежную работу во время интенсивных хакатонов. Интеграция облегчила задачи по функционированию backend, безопасности и управлению, что позволило создавать инновационные решения в области удовлетворенности клиентов и AIOps. Для пользователей AlloyDB и Cloud SQL для PostgreSQL LangChain на Vertex AI предлагает быстрое извлечение знаний, безопасную аутентификацию и контекст чата. Интеграция упрощает разработку приложений для извлечения знаний и улучшает производительность с помощью настраиваемых векторных индексов. Она также поддерживает быстрое прототипирование и управляемое развертывание, превращая локально протестированные прототипы в готовые для предприятия развертывания с помощью инфраструктуры Vertex AI. Сравнительно с другими решениями, использование LangChain на Vertex AI упрощает многие шаги в workflow, такие как авторизация IAM, управление базами данных, разработка кода и эксплуатация инфраструктуры. Она обеспечивает встроенные функции наблюдаемости, такие как Cloud Logging, Monitoring и Tracing, что облегчает управление приложениями. Чтобы начать работу, разработчики могут обратиться к учебным пособиям и шаблонам для развертывания приложений RAG с AlloyDB и Cloud SQL для PostgreSQL на LangChain для Vertex AI. Эти ресурсы подчеркивают продвинутые варианты использования, позволяя создавать и развертывать сложные приложения ИИ.