Проектирование подключения к частной сети для приложений генеративного ИИ с возможностями RAG

Google Cloud предлагает гибкую архитектуру для создания безопасных рабочих нагрузок ИИ, особенно для приложений с генерацией с расширенным поиском (RAG). RAG улучшает большие языковые модели, основывая их на конкретных базах знаний, повышая точность и уменьшая галлюцинации. Этот подход позволяет избежать переобучения модели при использовании определенных источников истины. Пример дизайна использует частное подключение, предотвращая прохождение через Интернет. Архитектура включает в себя проект маршрутизации, хост общей VPC и сервисные проекты для приема данных, обслуживания и интерфейса. Cloud Interconnect или Cloud VPN обеспечивают безопасные соединения, а Network Connectivity Center управляет подключением через VPC и гибридные узлы. Private Service Connect обеспечивает частный доступ к Cloud Storage, а Google Cloud Armor/Load Balancer защищают взаимодействие с пользователем. VPC Service Controls снижают риски утечки данных, создавая управляемый периметр безопасности. Зеленая пунктирная линия показывает поток приема данных, перемещающий данные из внешних сетей в хранилище данных RAG. Оранжевая пунктирная линия показывает поток вывода, детализирующий запросы клиентов через систему. Network Connectivity Center управляет плоскостью управления и оркестровкой маршрутов через синие пунктирные линии. Следует ознакомиться с документацией по архитектуре, включая разрешения IAM и соображения по развертыванию. Рекомендуется изучить такие ресурсы, как Cross-Cloud Network.