Introducing the Azure AI Inference SDK: Access More AI Models with the Azure AI Model Catalog

De Azure AI Inference SDK voor .NET vereenvoudigt het toegang krijgen tot en het gebruik van AI-modellen uit de Azure AI Model Catalog voor taken zoals chat. De Azure AI Model Catalog in Azure AI Studio biedt een verscheidenheid aan AI-modellen die eenvoudig kunnen worden geïmplementeerd op Managed Compute of als een Serverless API, waardoor de complexiteit van hosting wordt verwijderd. De catalogus omvat modellen van verschillende leveranciers zoals Microsoft, Azure OpenAI en Meta, wat een brede selectie garandeert om diverse behoeften te vervullen. Serverless API-implementaties zijn bijzonder gebruikersvriendelijk, omdat er geen hardware hoeft te worden voorzien en er een pay-per-token-betalingmodel wordt aangeboden. Ingebouwde Responsible AI-functies, zoals Azure AI Content Safety-moderatiefilters, zorgen ervoor dat taalmodellen veilig kunnen worden geïmplementeerd. Gebruikers kunnen beginnen door modellen zoals Phi-3 te implementeren, een C#-toepassing te maken en de SDK te gebruiken om met modellen te communiceren. De AI Community Standup-sessie op 14 augustus zal verdere inzichten bieden in de SDK. Microsoft moedigt ontwikkelaars aan om de SDK te verkennen en feedback te geven over hun ervaringen.