学习如何在 Amazon SageMaker AI 上部署决策模型。本技术指南介绍如何使用 AWS 深度学习容器（基于 llama.cpp）提供 OpenAI 兼容的聊天补全服务，并通过 SemIf 扩展运行时，在 CPU 或 GPU 上返回已声明选项的概率分布。