Norbert Wiener, mathématicien et philosophe, a développé le concept de cybernétique dans les années 1940. La cybernétique est la science du contrôle et de la communication chez les machines et les êtres vivants. Son travail a été inspiré par les systèmes antiaériens de la Seconde Guerre mondiale qui utilisaient des boucles de rétroaction pour prédire et s'ajuster aux cibles. Ce même principe est maintenant utilisé dans les technologies qui maintiennent les gens engagés avec leurs appareils. L'intuition clé de Wiener fut que les systèmes utilisant leurs actions passées pour guider leurs actions futures peuvent s'adapter. Ses livres, "Cybernetics" et "The Human Use of Human Beings", ont introduit cette nouvelle science et ont mis en garde contre son potentiel à modifier rapidement la société. Il a identifié trois vérités fondamentales : les métriques deviennent la réalité, la vitesse façonne le contrôle, et chaque système est un système moral. Les métriques, comme celles des traqueurs de fitness ou des flux de réseaux sociaux, imposent les objectifs qu'elles sont conçues pour atteindre. Des boucles de rétroaction plus rapides permettent aux systèmes d'anticiper et d'influencer le comportement avant que les individus ne puissent réagir consciemment. Wiener a souligné que tous les systèmes sont intrinsèquement moraux, reflétant les valeurs et les priorités de leurs concepteurs. Ces systèmes adaptatifs déterminent ce qui est mesuré, qui en bénéficie et à quelle vitesse le changement se produit. Ses avertissements d'il y a des décennies décrivent avec précision le monde automatisé d'aujourd'hui et l'influence omniprésente des boucles de rétroaction. L'héritage de Wiener met en évidence le besoin crucial de considérer les implications éthiques de la conception technologique.