Entendendo os novos ajustes de inferência, ajuste, fundação e segurança do modelo Gemini no BigQuery

O crescimento exponencial nos dados não estruturados provenientes de dispositivos e plataformas digitais requer ferramentas avançadas para análise. BigQuery, a plataforma de dados em nuvem pronta para IA da Google, se integra com Vertex AI para aproveitar modelos de IA gerativos para processamento de dados não estruturados. Essa integração permite o uso de modelos como Gemini para tarefas que incluem resumo de texto e análise de sentimento. Além disso, o BigQuery também oferece suporte para ajuste fino de modelos usando técnicas LoRA, o que é útil quando a engenharia de prompts é insuficiente. Atualizações recentes incluem a adição de modelos Gemini 1.5, que melhoram a NLP, tarefas de visão e novas capacidades como transcrição de áudio e resumo de PDF. A função SQL ML.GENERATE_TEXT agora oferece suporte a grounding com busca do Google e configurações de segurança personalizáveis para garantir saídas de IA responsáveis. Além disso, o BigQuery estende o suporte para ajuste e avaliação do modelo Gemini 1.0, permitindo capacidades de IA personalizadas. Os usuários podem criar modelos remotos que representam endpoints de Vertex AI Gemini e processar dados não estruturados com tabelas de objetos no BigQuery. As configurações de grounding e segurança oferecem controle detalhado sobre as respostas de IA, garantindo precisão e aderência a limiares de segurança definidos. O ajuste fino com LoRA para modelos Gemini permite a customização precisa do comportamento do modelo para aplicações específicas.