Автоматизируйте и оркестрируйт... Заметка

Автоматизируйте и оркестрируйте задания Amazon EMR с помощью AWS Step Functions и Amazon EventBridge

В этой статье мы обсудим, как построить полностью автоматизированный, запланированный конвейер обработки Spark с использованием Amazon EMR на EC2, оркестрированный с помощью Step Functions и запускаемый EventBridge. Мы рассмотрим, как развернуть это решение с помощью AWS CloudFormation, обрабатывать данные общедоступного набора данных COVID-19 в Amazon Simple Storage Service (Amazon S3) и хранить агрегированные результаты в Amazon S3.
CdXz5zHNQW_qVcfbMuOEd.png