Inception Labs 的 Mercury 基础模型现... 笔记

Inception Labs 的 Mercury 基础模型现已在 Amazon Bedrock Marketplace 和 Amazon SageMaker JumpStart 上提供

在这篇博文中,我们宣布 Inception Labs 的 Mercury 和 Mercury Coder 基础模型现已通过 Amazon Bedrock Marketplace 和 Amazon SageMaker JumpStart 提供。我们演示了如何部署这些超快速的基于扩散的语言模型,它们可以在 NVIDIA H100 GPU 上每秒生成多达 1100 个 token,并展示了它们在代码生成和工具使用场景中的能力。
CdXz5zHNQW_nrtlvLdTEA.jpeg