Introducing the Azure AI Inference SDK: Få tillgång till fler AI-modeller med Azure AI-modellkatalogen

Azure AI Inference SDK för .NET förenklar åtkomsten till och användningen av AI-modeller från Azure AI Model Catalog för uppgifter som chatt. Azure AI Model Catalog i Azure AI Studio erbjuder en mängd AI-modeller som kan enkelt distribueras till Managed Compute eller som en Serverless API, vilket tar bort komplexiteten i att vara värd. Katalogen innehåller modeller från olika leverantörer som Microsoft, Azure OpenAI och Meta, vilket säkerställer ett brett urval för att möta olika behov. Serverless API-distributioner är särskilt användarvänliga, eftersom de eliminerar behovet av hårdvaruprovisionering och erbjuder en betalning-per-token-prissättning. Inbyggda Responsible AI-funktioner, såsom Azure AI Content Safety-moderationsfilter, säkerställer säker distribution av språkmodeller. Användare kan börja med att distribuera modeller som Phi-3, skapa ett C#-program och använda SDK för att interagera med modellerna. AI Community Standup-sessionen den 14 augusti kommer att ge ytterligare insikter i SDK. Microsoft uppmuntrar utvecklare att utforska SDK och ge feedback på deras erfarenheter.