Pourquoi la désinformation par l'IA n'a pas influencé les résultats de l'élection de 2024

La menace de la désinformation par l'IA lors de la prochaine élection américaine n'a pas eu lieu comme prévu, les acteurs étrangers ayant du mal à accéder aux modèles d'IA avancés nécessaires pour créer des deepfakes convaincants. Bien que l'IA puisse générer des contenus audio et textuels trompeurs, les images et les vidéos portent souvent des marques caractéristiques de la génération par l'IA, les rendant facilement identifiables par rapport au contenu authentique. De nombreuses campagnes ont évité d'utiliser l'IA générative pour la création de contenu en raison de préoccupations concernant l'exactitude et le potentiel de « hallucination ». Cependant, à mesure que les outils d'IA continuent de s'améliorer, la gestion de la désinformation par l'IA nécessitera probablement la coopération des entreprises d'IA, des plateformes de médias sociaux, de la communauté de sécurité et du gouvernement. L'établissement de la provenance du contenu généré par l'IA grâce à des codes et des horodatages chiffrés pourrait être une solution efficace. Les entreprises d'IA comme Google développent déjà des outils pour insérer de tels codes dans le contenu généré. Pendant ce temps, l'industrie technologique se tourne vers les agents d'IA capables de raisonner à travers des tâches multétapes avec autonomie, plutôt que les chatbots. Les entreprises comme Anthropic, Microsoft et Salesforce lancent de nouveaux modèles et cadres d'IA qui permettent aux utilisateurs de créer leurs propres agents. Ces agents peuvent percevoir et traiter des données provenant d'environnements numériques et effectuer des tâches telles que la création de sites web ou la gestion de la logistique. Cependant, des inquiétudes sont exprimées quant aux risques potentiels de l'addiction à l'IA, en particulier chez les jeunes utilisateurs. Une histoire récente sur un garçon de 14 ans qui est devenu accro à un chatbot et a finalement mis fin à ses jours a soulevé des questions sur la responsabilité des entreprises d'IA de donner la priorité au bien-être des utilisateurs. À mesure que la technologie d'IA continue d'évoluer, il reste à voir si les entreprises donneront la priorité à la sécurité et au bien-être des utilisateurs plutôt qu'aux profits.