Vorstellung des Azure AI Inferenz SDK: Zugriff auf mehr AI-Modelle mit dem Azure AI Modellkatalog

Das Azure AI Inference SDK für .NET vereinfacht den Zugriff auf und die Verwendung von AI-Modellen aus dem Azure AI Model Catalog für Aufgaben wie Chat. Der Azure AI Model Catalog in Azure AI Studio bietet eine Vielzahl von AI-Modellen, die einfach auf Managed Compute oder als Serverless-API bereitgestellt werden können, wodurch die Komplexität der Hosting-Infrastruktur beseitigt wird. Der Katalog enthält Modelle von verschiedenen Anbietern wie Microsoft, Azure OpenAI und Meta, um eine breite Auswahl an Modellen für diverse Anforderungen sicherzustellen. Serverless-API-Bereitstellungen sind insbesondere benutzerfreundlich, da sie keine Hardware-Provisionierung erfordern und ein pay-per-token-Abrechnungsmodell anbieten. Die integrierten Responsible AI-Funktionen, wie z.B. Azure AI Content Safety-Moderationsfilter, sorgen für eine sichere Bereitstellung von Sprachmodellen. Anwender können mit der Bereitstellung von Modellen wie Phi-3 beginnen, ein C#-Anwendung erstellen und das SDK verwenden, um mit den Modellen zu interagieren. Die AI Community Standup-Sitzung am 14. August wird weitere Einblicke in das SDK bieten. Microsoft ermutigt Entwickler, das SDK zu erkunden und Rückmeldung zu ihren Erfahrungen zu geben.