Inception Labs 的 Mercury 基础模型现已在 Amazon Bedrock Marketplace 和 Amazon SageMaker JumpStart 上提供
在这篇博文中,我们宣布 Inception Labs 的 Mercury 和 Mercury Coder 基础模型现已通过 Amazon Bedrock Marketplace 和 Amazon SageMaker JumpStart 提供。我们演示了如何部署这些超快速的基于扩散的语言模型,它们可以在 NVIDIA H100 GPU 上每秒生成多达 1100 个 token,并展示了它们在代码生成和工具使用场景中的能力。