Pourquoi le « Baby Grok » d'Elon Musk alarme les défenseurs de la sécurité infantile

La société xAI d'Elon Musk prévoit de lancer "Baby Grok", une application axée sur le contenu pour enfants. Ce mouvement dans le marché des compagnons d'intelligence artificielle (IA) pour les enfants s'aligne sur l'utilisation élevée des compagnons d'IA parmi les adolescents. Cependant, les experts en protection de l'enfance expriment des inquiétudes significatives concernant ce développement. Ils citent le bilan de X et de xAI en matière de sécurité des enfants comme raison principale de leur appréhension. Les experts s'inquiètent du potentiel de choix de conception persuasifs et de sauvegardes inadéquates dans les chatbots d'IA pour les enfants. Le développement de "Ani", un chatbot d'IA sexualisé, et de "Bad Rudi", un chatbot insultant, alimente encore ces anxiétés. Il y a également des inquiétudes concernant les enfants qui forment des attachements émotionnels malsains aux compagnons d'IA. Ces attachements pourraient avoir un impact négatif sur leur santé mentale, car les enfants pourraient chercher des conseils ou du soutien auprès des chatbots. Les experts soulignent que les entreprises ont une obligation de protéger les jeunes utilisateurs sur leurs plateformes. Ils pointent les réductions de personnel dans la sécurité des enfants à X après l'acquisition de Musk et la plateforme permettant la pornographie sans vérification d'âge stricte comme preuve de politiques laxistes. Le manque de réglementation efficace dans de nombreux pays soulève des inquiétudes supplémentaires concernant le déploiement non contrôlé de produits d'IA mal conçus pour les enfants. Alors que Musk peut voir une opportunité commerciale, les défenseurs de la sécurité des enfants soulignent l'importance critique de protéger les jeunes utilisateurs en ligne.