La course aux armements en matière d'IA pourrait détruire l'humanité telle que nous la connaissons.

La course aux armements en matière d'IA progresse trop rapidement, les entreprises repoussant les limites et les gouvernements étant à la traîne, ce qui suscite des inquiétudes concernant la sécurité et la prolifération incontrôlée des armes autonomes. Le lancement de ChatGPT a déclenché une ruée parmi les grandes entreprises technologiques et les startups pour déployer leurs modèles et produits le plus rapidement possible, souvent au détriment de la sécurité, de la confidentialité ou de l'autonomie. Mark Zuckerberg a exhorté ses équipes à rendre les compagnons d'IA plus "humains" et divertissants, même si cela impliquait d'assouplir les mesures de sécurité. Cela a suscité des inquiétudes concernant la déshumanisation de la société, les fonctionnalités basées sur l'IA se normalisant et les gens devenant impuissants et dépendants des entreprises qui fournissent des services d'IA. L'IA générative a porté cette déshumanisation à un niveau supérieur, faisant perdre aux gens la capacité de produire des résultats et les empêchant d'acquérir des compétences essentielles. Des armes autonomes alimentées par l'IA sont en cours de développement et de déploiement, ce qui pourrait conduire à davantage de guerres et de destructions, car le coût humain de la guerre est supprimé. Le développement d'armes alimentées par l'IA pourrait entraîner des problèmes géopolitiques majeurs et même un scénario d'Armageddon. Elon Musk et d'autres ont exprimé des inquiétudes quant au fait que l'IA pourrait constituer une menace existentielle pour l'humanité. Pour éviter cela, les dirigeants devraient donner la priorité à la sécurité publique et à l'avenir de l'humanité plutôt qu'à l'obtention de la suprématie en matière d'IA, et le public devrait exiger un développement responsable de l'IA.