Le fil de découverte de Meta AI est rempli des conversations les plus profondes et les plus sombres que les gens ont avec les chatbots.

L'outil d'intelligence artificielle de Meta, Meta AI, dispose d'un fil d'actualité accessible via Facebook qui contient un mélange d'images inoffensives générées par l'IA et d'invites de chatbot provenant d'utilisateurs. Cependant, bon nombre de ces invites de chatbot sont très personnelles et inappropriées, et partagées publiquement à l'insu des utilisateurs, permettant à d'autres de les voir et même de les commenter. Le fil d'actualité comprend des conversations sur des sujets sensibles, notamment les relations, les problèmes de santé et les fonctions corporelles. Malgré les avertissements, les utilisateurs pourraient ne pas être conscients qu'ils publient publiquement en raison de l'interface nouvelle et peu familière. L'incident met en lumière le type de requêtes que les gens font lorsqu'ils pensent que personne ne les regarde. Meta investit massivement dans l'intelligence artificielle générative, mais a commis des erreurs, notamment en créant des bots sexuellement suggestifs. L'entreprise a également été critiquée pour son studio d'IA, qui a créé des bots qui semblaient être mineurs. Malgré ces problèmes, Meta prévoit de continuer à investir massivement dans l'IA, avec des dépenses d'investissement prévues atteignant 72 milliards de dollars cette année. À court terme, l'entreprise pourrait avoir besoin d'utiliser une partie de cet argent pour résoudre les problèmes de son outil d'IA. L'incident soulève des questions sur le développement et l'utilisation responsables de la technologie de l'IA.