Une « mise à niveau » de ChatGPT donne des réponses plus nuisibles qu'auparavant, selon des tests
Les militants sont « profondément préoccupés » par les réponses aux questions sur le suicide, l'automutilation et les troubles alimentaires.
La dernière version de ChatGPT a produit des réponses plus nocives à certaines questions que l'itération précédente du chatbot d'IA, en particulier lorsqu'on l'interroge sur le suicide, l'automutilation et les troubles alimentaires, ont déclaré des militants numériques.
Lancé en août, GPT-5 a été présenté par la start-up de San Francisco comme faisant progresser la « frontière de la sécurité de l'IA ». Mais lorsque les chercheurs ont introduit les mêmes 120 questions dans le dernier modèle et son prédécesseur, GPT-4o, la nouvelle version a donné des réponses nocives 63 fois contre 52 pour l'ancien modèle.
Au Royaume-Uni et en Irlande, les Samaritains peuvent être contactés au numéro gratuit 116 123, ou par e-mail à [email protected] ou [email protected]. Aux États-Unis, vous pouvez appeler ou envoyer un SMS à la ligne d'assistance téléphonique 988 Suicide & Crisis Lifeline au 988 ou discuter sur 988lifeline.org. En Australie, le service d'assistance en cas de crise Lifeline est le 13 11 14. D'autres lignes d'assistance internationales peuvent être trouvées sur befrienders.org.
