Норберт Винер, математик и философ, разработал концепцию кибернетики в 1940-х годах. Кибернетика — это наука об управлении и связи в машинах и живых организмах. На его работу оказали влияние зенитные системы Второй мировой войны, которые использовали обратную связь для прогнозирования и адаптации к целям. Этот же принцип сегодня применяется в технологиях, которые удерживают людей, вовлеченных в работу с их устройствами. Ключевым прозрением Винера было то, что системы, использующие свои прошлые действия для руководства будущими, могут адаптироваться. Его книги, "Кибернетика" и "Человеческое использование человеческих существ", представили эту новую науку и предупредили о ее потенциале быстро менять общество. Он выделил три основные истины: метрики становятся реальностью, скорость формирует управление, и каждая система является моральной системой. Метрики, такие как на фитнес-трекерах или лентах социальных сетей, обеспечивают достижение целей, для которых они разработаны. Более быстрые циклы обратной связи позволяют системам предвосхищать и влиять на поведение до того, как люди смогут сознательно отреагировать. Винер подчеркивал, что все системы по своей сути моральны, отражая ценности и приоритеты своих создателей. Эти адаптивные системы определяют, что измеряется, кто получает выгоду и как быстро происходят изменения. Его предупреждения многолетней давности точно описывают сегодняшний автоматизированный мир и повсеместное влияние циклов обратной связи. Наследие Винера подчеркивает критическую необходимость учитывать этические последствия технологического дизайна.