Что вы измеряете Заметка
The Daily WTF на русском

Что вы измеряете

Рэйчел присоединилась к новой команде, где ее начальник, Зейн, настаивал на подходе, основанном на метриках, сфокусированном на максимизации производства виджетов при минимальных затратах. Автоматизированная производственная линия включала сложное программное обеспечение, изменения в котором проверялись только в реальном производстве из-за ограничений тестирования. Первоначальной задачей Рэйчел было обновление дашборда метрик в Google Sheets, который извлекал данные из шести баз данных, несмотря на то, что пользователи всегда предпочитали Excel. Команда отслеживала только выходные метрики, такие как "количество произведенных виджетов за единицу времени", без подробных данных для объяснения поведения системы или узких мест. Например, автоматический сканер контроля качества не записывал причины отклонения виджетов и даже количество отклоненных изделий напрямую.Изменения в программном обеспечении оценивались по общим выходным метрикам, что затрудняло проверку, поскольку эти метрики были "шумными" и подвержены внешним факторам, не связанным с самим программным обеспечением. Попытки Рэйчел внедрить изменение для записи отклоненных виджетов изначально были затруднены регрессиями метрик, вызванными экологическими проблемами, а не ее кодом. Простые изменения могли занимать недели для проверки из-за ограниченного количества тестовых запусков и необходимости учитывать регрессии метрик. Рэйчел начала добавлять инструментарий в код для сбора более подробных данных, надеясь построить полезную модель системы.Однако Зейн оставался одержим немедленными улучшениями ключевых выходных метрик. Он отвергал ценность сбора данных для понимания того, почему эти метрики вели себя так, как они вели, заявляя, что такие диагностические данные не являются "ключевыми метриками". Это создало фундаментальный конфликт между желанием Рэйчел понять систему и сосредоточенностью Зейна на основных показателях эффективности. Рэйчел нашла компромисс, гарантируя, что любые изменения, которые она вносила для улучшения основных метрик, также включали инструментарий для объяснения поведения изменения. Эта стратегия позволила ей как удовлетворить требования Зейна по улучшению метрик, так и постепенно повысить наблюдаемость системы. В конечном итоге, понимание сложной системы оставалось низким приоритетом по сравнению с продвижением основных метрик без всестороннего понимания их движущих сил.