O SDK de Inferência de IA do Azure para .NET simplifica o acesso e o uso de modelos de IA do Catálogo de Modelos de IA do Azure para tarefas como conversa. O Catálogo de Modelos de IA do Azure no Azure AI Studio oferece uma variedade de modelos de IA que podem ser facilmente implantados em Compute Gerenciado ou como API sem Servidor, removendo a complexidade de hospedagem. O catálogo inclui modelos de vários provedores, como Microsoft, Azure OpenAI e Meta, garantindo uma ampla seleção para atender às necessidades diversificadas. As implantações de API sem servidor são particularmente fáceis de usar, eliminando a necessidade de provisionamento de hardware e oferecendo um modelo de cobrança por token. Recursos de IA Responsável integrados, como filtros de moderação de segurança de conteúdo do Azure AI, garantem a implantação segura de modelos de linguagem. Os usuários podem começar a implantar modelos como o Phi-3, criando um aplicativo C# e usando o SDK para interagir com os modelos. A sessão de Standup da Comunidade de IA em 14 de agosto fornecerá mais insights sobre o SDK. A Microsoft incentiva os desenvolvedores a explorar o SDK e fornecer feedback sobre suas experiências.
devblogs.microsoft.com
Introducing the Azure AI Inference SDK: Access More AI Models with the Azure AI Model Catalog
Create attached notes ...