Запуск небольших языковых моделей с низкими затратами с помощью AWS Graviton и Amazon SageMaker AI

В этом посте мы демонстрируем, как развернуть небольшую языковую модель в SageMaker AI, расширив наши предварительно скомпилированные контейнеры для совместимости с экземплярами AWS. Сначала мы предоставляем общий обзор решения, а затем подробные шаги реализации, чтобы помочь вам начать. Вы можете найти примерную записную книжку в репозитории.