OpenAI заявляет, что более миллиона человек еженедельно обсуждают с ChatGPT темы самоубийства

OpenAI опубликовала новые данные, указывающие на тревожную тенденцию среди пользователей ChatGPT, обсуждающих психическое здоровье. Небольшой, но значительный процент еженедельно активных пользователей проявляют признаки суицидальных мыслей. С более чем 800 миллионами пользователей в неделю, это означает более миллиона человек в неделю. Аналогичная доля пользователей также сообщает о сильной эмоциональной привязанности к искусственному интеллекту. Кроме того, сотни тысяч пользователей демонстрируют признаки психоза или мании в своих разговорах. OpenAI характеризует эти конкретные взаимодействия, связанные с психическим здоровьем, как «чрезвычайно редкие». Несмотря на свою редкость, эти разговоры по-прежнему влияют на сотни тысяч людей еженедельно. Компания поделилась этими данными вместе с обновлениями об улучшении реагирования ChatGPT на проблемы с психическим здоровьем. Это раскрытие информации происходит в то время, когда OpenAI сталкивается с судебным иском от родителей, чей сын покончил жизнь самоубийством, утверждая, что в этом участвует ChatGPT. В отчете подчеркивается сложный и деликатный характер взаимодействия ИИ с пользователями, находящимися в бедственном положении.