InfoQ на русском
Подписаться
Pinterest использует временные метки событий для финализации разделов данных в петабайтном масштабе
Pinterest представил финализацию партиций по времени событий для своей системы приема данных базы данных. Механизм использует Apache Flink для отслеживания времени событий и метаданные Apache Iceberg для публикации нерегрессирующей водяной метки, помогая последующим заданиям определять, когда непрерывно принимаемые данные CDC достаточно полны для обработки. Автор: Лила Кумили.