RSS 云博客
关注
AlloyDB AI 函数——现已实现革命性的性能提升与成本节约
AlloyDB 是一款原生 AI 数据库,能够智能处理数据,提供向量搜索和自然语言转 SQL 等功能。它通过 AI 函数直接集成 Gemini 等基础模型,将 Gemini 的世界知识引入您的数据。这些函数可将非结构化数据(如原始用户反馈)转化为结构化洞察,无需构建复杂的自定义管道。例如,ai.generate 可将原始文本转换为干净的结构化 JSON。新增的 AI 函数包括 ai.summarize、ai.agg_summarize 和 ai.analyze_sentiment,分别用于分类情感基调、压缩文本以及汇总多行数据。AlloyDB 在 AI 函数处理方面取得了显著的性能与成本提升,主要得益于两项关键突破:AI 函数智能批处理(Smart Batching for AI Functions)可智能分组 AI 函数调用,消除提示词开销,性能提升高达 2,400 倍;AlloyDB 自动确定最佳批处理大小并处理重试。优化的 AI 函数(最初针对 ai.if)会部署一个基于您数据训练的小型代理模型,大幅减少对外部 LLM 的调用。该功能处理速度可达每秒 100,000 行,成本降低 6,000 倍。AlloyDB 在用户使用 PREPARE 语句时于后台训练该代理模型,并在准确率不足时自动回退至 LLM。这些优化使用户能够以前所未有的速度和成本效率处理复杂查询,例如基于特定数值约束筛选产品。用户可通过 AlloyDB 的 30 天免费试用开始使用,并直接在 SQL 查询中启用 AI 函数。为最大化性能与成本节约,用户可利用优化后的函数和智能批处理。这些进展使用户能够高效地将 Gemini 的智能引入其 AlloyDB 数据。