RSS クラウド ブログ フォロー AlloyDB AI 関数 - 革新的なパフォーマンス向上とコスト削減を実現 AlloyDBは、ベクトル検索や自然言語からSQLへの変換機能などを提供し、インテリジェントにデータを処理するAIネイティブデータベースです。Geminiのような基盤モデルをAI関数を介して直接統合し、Geminiの世界的な知識をデータにもたらします。これらの関数は、生のユーザーフィードバックのような非構造化データを構造化された洞察に変換し、複雑なカスタムパイプラインの必要性を排除します。例えば、ai.generateは生のテキストをクリーンで構造化されたJSONに変換できます。新しいAI関数には、感情的なトーンを分類するai.summarize、テキストを凝縮するai.agg_summarize、複数の行を要約するai.analyze_sentimentが含まれます。AlloyDBは、2つの主要なブレークスルーにより、AI関数処理におけるパフォーマンスとコストの大幅な改善を達成しました。AI関数向けのSmart Batchingは、AI関数呼び出しをインテリジェントにグループ化し、プロンプトのオーバーヘッドを重複排除して、パフォーマンスを最大2,400倍向上させます。AlloyDBは最適なバッチサイズを自動的に決定し、リトライを処理します。最適化されたAI関数は、当初ai.if向けに、データでトレーニングされた小規模なプロキシモデルを展開し、外部LLMの呼び出しを劇的に削減します。これにより、毎秒最大100,000行を処理し、コストを6,000倍削減できます。AlloyDBは、PREPAREステートメントを使用する際にバックグラウンドでこのプロキシモデルをトレーニングし、精度が低い場合は自動的にLLMにフォールバックします。これらの最適化により、ユーザーは特定の数値制約に基づいて製品をフィルタリングするような複雑なクエリを、前例のない速度とコスト効率で処理できます。ユーザーはAlloyDBの30日間の無料トライアルを開始し、SQLクエリ内で直接AI関数を有効にすることができます。パフォーマンスとコスト削減を最大化するために、ユーザーは最適化された関数とスマートバッチングを活用できます。これらの進歩により、ユーザーはGeminiのインテリジェンスをAlloyDBデータに効率的に取り込むことができます。 AI and ML News on Bluesky @ai-news.at.thenote.app bsky.app AlloyDB AI Functions - now with revolutionary performance boosts and cost savings cloud.google.com
ai.generateは生のテキストをクリーンで構造化されたJSONに変換できます。新しいAI関数には、感情的なトーンを分類するai.summarize、テキストを凝縮するai.agg_summarize、複数の行を要約するai.analyze_sentimentが含まれます。AlloyDBは、2つの主要なブレークスルーにより、AI関数処理におけるパフォーマンスとコストの大幅な改善を達成しました。AI関数向けのSmart Batchingは、AI関数呼び出しをインテリジェントにグループ化し、プロンプトのオーバーヘッドを重複排除して、パフォーマンスを最大2,400倍向上させます。AlloyDBは最適なバッチサイズを自動的に決定し、リトライを処理します。最適化されたAI関数は、当初ai.if向けに、データでトレーニングされた小規模なプロキシモデルを展開し、外部LLMの呼び出しを劇的に削減します。これにより、毎秒最大100,000行を処理し、コストを6,000倍削減できます。AlloyDBは、PREPAREステートメントを使用する際にバックグラウンドでこのプロキシモデルをトレーニングし、精度が低い場合は自動的にLLMにフォールバックします。これらの最適化により、ユーザーは特定の数値制約に基づいて製品をフィルタリングするような複雑なクエリを、前例のない速度とコスト効率で処理できます。ユーザーはAlloyDBの30日間の無料トライアルを開始し、SQLクエリ内で直接AI関数を有効にすることができます。パフォーマンスとコスト削減を最大化するために、ユーザーは最適化された関数とスマートバッチングを活用できます。これらの進歩により、ユーザーはGeminiのインテリジェンスをAlloyDBデータに効率的に取り込むことができます。