Azure AI 推断 SDK for .NET 使得从 Azure AI 模型目录中访问和使用 AI 模型变得更加简单,适用于聊天等任务。Azure AI Studio 中的 Azure AI 模型目录提供了多种 AI 模型,可以轻松部署到 Managed Compute 或作为 Serverless API,从而消除托管的复杂性。目录中包括来自 Microsoft、Azure OpenAI 和 Meta 等多个提供商的模型,以满足多样化的需求。Serverless API 部署特别 user-friendly,不需要硬件预配,并且采用按令牌付费的计费模式。内置的 Responsible AI 功能,如 Azure AI Content Safety 调制过滤器,确保了语言模型的安全部署。用户可以通过部署模型,如 Phi-3,创建 C# 应用程序,并使用 SDK 与模型交互。8 月 14 日的 AI 社区直播节目将提供更多关于 SDK 的见解。Microsoft 鼓励开发者探索 SDK 并分享他们的经验反馈。
devblogs.microsoft.com
Introducing the Azure AI Inference SDK: Access More AI Models with the Azure AI Model Catalog
Create attached notes ...