AI.AGG を使用した BigQuery における数百万行のセマンティック集計
BigQuery の新しい AI.AGG 機能は、現在プレビュー段階にあり、GoogleSQL 内で直接マルチレベルのセマンティック集計を可能にすることで、非構造化データ分析に革命をもたらします。これは、従来の関係型 SQL エンジンが、大規模言語モデル (LLM) のコンテキストウィンドウの制限により、大量のテキストおよびマルチモーダルデータセットからの洞察の合成に苦労していた重要なギャップに対処します。AI.AGG は、セマンティック集計を分散型マップ・レデュース問題として概念化し、データチームが単一の SQL クエリで数百万行にわたる自然言語の指示を実行できるようにします。基盤となるマルチレベルバッチ処理アーキテクチャは、行の検証、コンテキストセーフなバッチ処理、Vertex AI を介した並列推論、および完全な重みを持つ LLM を使用した再帰的な合成を自動的に処理し、単一の集計された文字列が生成されるまで行います。テキストとマルチモーダルの両方の入力をネイティブにサポートし、データ移動なしで画像分析のために BigQuery Object Tables を活用します。AI.AGG は、大量のシステムログの診断分析や、自律的なデータラベリングパイプラインのための「エージェンティックデータクラウド」の構築など、変革的なエンタープライズユースケース向けに設計されています。AI.AGG のプロンプトエンジニアリングには、プログラム可能な SQL 出力を保証するために、明示的な出力契約、コンテキスト区切り文字、障害状態設計、および少数ショットアンカーが必要です。コスト管理には、WHERE および LIMIT 句による事前フィルタリングと、Gemini Context Caching の利用、および推定のための AI.COUNT_TOKENS の使用が含まれます。この機能は BigQuery のガバナンスフレームワーク内で動作し、VPC Service Controls をサポートし、一時的なエラーに対して正常に低下します。プレビューガードレールには、グループあたり 10,000 トークンの出力キャップ、10 MiB の行制限、および最大 2,000 万行と 1,000 の個別の SQL グループの処理に関する推奨事項が含まれます。AI.AGG は、エンタープライズデータウェアハウスをアクティブでセマンティックなランタイムに変革し、ペタバイト規模のセマンティック分析へのアクセスを民主化します。