Automatizar la inferencia por lotes de Amazon Bedrock: Crear una pipeline escalable y eficiente

Aunque la inferencia por lotes ofrece numerosos beneficios, está limitada a 10 trabajos de inferencia por lote enviados por modelo por región. Para abordar esta consideración y mejorar su uso de la inferencia por lotes, hemos desarrollado una solución escalable utilizando AWS Lambda y Amazon DynamoDB. Este post le guiará a través de la implementación de un sistema de gestión de colas que monitorea automáticamente los slots de trabajo disponibles y envía nuevos trabajos cuando los slots están disponibles.