Introducing the Azure AI Inference SDK: Access More AI Models with the Azure AI Model Catalog

Azure AI-inferens SDK for .NET forenkler tilgangen til og bruken av AI-modeller fra Azure AI Model Catalog for oppgaver som chat. Azure AI Model Catalog i Azure AI Studio tilbyr en rekke AI-modeller som kan enkelt deployes til Managed Compute eller som en serverless API, noe som fjerner kompleksiteten med hosting. Katalogen inkluderer modeller fra ulike leverandører som Microsoft, Azure OpenAI og Meta, noe sikrer et bredt utvalg for å møte diverse behov. Serverless API-deployments er spesielt brukervennlige, da de eliminerer behovet for maskinvareprovisionering og tilbyr en betaling-per-token-pris. Innbygde Responsible AI-funksjoner, som Azure AI Content Safety-moderasjonsfilter, sikrer trygg deployering av språkmodeller. Brukere kan starte med å deployere modeller som Phi-3, opprette en C#-applikasjon og bruke SDK til å interagere med modellene. AI Community Standup-sesjonen den 14. august vil gi ytterligere innsikt i SDK. Microsoft oppfordrer utviklere til å utforske SDK og gi tilbakemeldinger om sine erfaringer.