AWS Compute Blog на русском
Подписаться
Запуск и оптимизация небольших языковых моделей локально и на периферии.
По мере перехода от прототипа к промышленной эксплуатации ваших решений на основе генеративного ИИ, может возникнуть необходимость запуска базовых моделей (FM) локально или на периферии для решения вопросов резидентности данных, политики информационной безопасности (InfoSec) или требований к низкой задержке. Для удовлетворения потребностей пользователей в резидентности данных, низкой задержке и InfoSec, в этой статье приводятся рекомендации по развертыванию генеративных ИИ FM в AWS Local Zones и AWS Outposts.