BigQuery 的新功能 AI.AGG 目前处于预览阶段，通过直接在 GoogleSQL 中实现多层级语义聚合，彻底改变了非结构化数据分析。该功能解决了传统关系型 SQL 引擎因大语言模型（LLM）上下文窗口限制而在从海量文本和多模态数据集中综合洞察方面存在的重大缺口。AI.AGG 将语义聚合概念化为分布式 Map-Reduce 问题，使数据团队能够通过单个 SQL 查询对数百万行数据执行自然语言指令。其底层的多层级批处理架构自动处理行验证、上下文安全批处理、通过 Vertex AI 进行并行推理，以及使用全权重 LLM 进行递归合成，直至生成单个聚合字符串。该功能原生支持文本和多模态输入，利用 BigQuery 对象表进行图像分析而无需数据移动。AI.AGG 旨在支持变革性的企业用例，例如对高容量系统日志进行诊断分析，以及构建用于自主数据标注管道的“代理数据云”。AI.AGG 的提示工程需要明确的输出契约、上下文分隔符、失败状态设计和少样本锚点，以确保程序化的 SQL 输出。成本管理涉及使用 WHERE 和 LIMIT 子句进行预过滤，并利用 Gemini 上下文缓存，同时使用 AI.COUNT_TOKENS 进行估算。该功能运行在 BigQuery 的治理框架内，支持 VPC 服务控制，并在瞬态错误时优雅降级。预览阶段的护栏包括每组 10,000 个 token 的输出上限、每行 10 MiB 的限制，以及针对处理最多 2,000 万行数据和 1,000 个不同 SQL 组的建议。AI.AGG 将企业数据仓库转变为活跃的语义运行时，使 PB 级语义分析得以普及。