Функции AlloyDB AI — теперь с революционным повышением производительности и экономией затрат
AlloyDB — это база данных, изначально разработанная для ИИ, которая интеллектуально обрабатывает данные, предлагая такие функции, как векторный поиск и преобразование естественного языка в SQL. Она интегрирует базовые модели, такие как Gemini, непосредственно через функции ИИ, которые переносят мировые знания Gemini в ваши данные. Эти функции преобразуют неструктурированные данные, такие как необработанные отзывы пользователей, в структурированные сведения, устраняя необходимость в сложных пользовательских конвейерах. Например, ai.generate может преобразовывать необработанный текст в чистый, структурированный JSON.Новые функции ИИ включают ai.summarize, ai.agg_summarize и ai.analyze_sentiment, которые соответственно категоризируют эмоциональный тон, сжимают текст и обобщают несколько строк. AlloyDB добилась значительных улучшений производительности и снижения затрат при обработке функций ИИ благодаря двум ключевым прорывам. Smart Batching для функций ИИ интеллектуально группирует вызовы функций ИИ, дедуплицируя накладные расходы на запросы и повышая производительность до 2400 раз. AlloyDB автоматически определяет оптимальные размеры пакетов и обрабатывает повторные попытки.Оптимизированные функции ИИ, изначально для ai.if, развертывают небольшую прокси-модель, обученную на ваших данных, что значительно сокращает количество внешних вызовов LLM. Это позволяет обрабатывать до 100 000 строк в секунду и сократить расходы в 6000 раз. AlloyDB обучает эту прокси-модель в фоновом режиме при использовании оператора PREPARE и автоматически возвращается к LLM, если точность низкая. Эти оптимизации позволяют пользователям обрабатывать сложные запросы, такие как фильтрация продуктов на основе конкретных числовых ограничений, с беспрецедентной скоростью и экономической эффективностью.Пользователи могут начать работу с 30-дневной бесплатной пробной версией AlloyDB и включать функции ИИ непосредственно в свои SQL-запросы. Чтобы максимизировать производительность и сэкономить затраты, пользователи могут использовать оптимизированные функции и интеллектуальную пакетную обработку. Эти достижения позволяют пользователям эффективно использовать интеллект Gemini для своих данных AlloyDB.
ai.generateможет преобразовывать необработанный текст в чистый, структурированный JSON.Новые функции ИИ включаютai.summarize,ai.agg_summarizeиai.analyze_sentiment, которые соответственно категоризируют эмоциональный тон, сжимают текст и обобщают несколько строк. AlloyDB добилась значительных улучшений производительности и снижения затрат при обработке функций ИИ благодаря двум ключевым прорывам. Smart Batching для функций ИИ интеллектуально группирует вызовы функций ИИ, дедуплицируя накладные расходы на запросы и повышая производительность до 2400 раз. AlloyDB автоматически определяет оптимальные размеры пакетов и обрабатывает повторные попытки.Оптимизированные функции ИИ, изначально дляai.if, развертывают небольшую прокси-модель, обученную на ваших данных, что значительно сокращает количество внешних вызовов LLM. Это позволяет обрабатывать до 100 000 строк в секунду и сократить расходы в 6000 раз. AlloyDB обучает эту прокси-модель в фоновом режиме при использовании оператораPREPAREи автоматически возвращается к LLM, если точность низкая. Эти оптимизации позволяют пользователям обрабатывать сложные запросы, такие как фильтрация продуктов на основе конкретных числовых ограничений, с беспрецедентной скоростью и экономической эффективностью.Пользователи могут начать работу с 30-дневной бесплатной пробной версией AlloyDB и включать функции ИИ непосредственно в свои SQL-запросы. Чтобы максимизировать производительность и сэкономить затраты, пользователи могут использовать оптимизированные функции и интеллектуальную пакетную обработку. Эти достижения позволяют пользователям эффективно использовать интеллект Gemini для своих данных AlloyDB.