Google и Character.AI договорились об урегулировании судебных исков из-за самоубийств подростков

Google и Character.AI достигли соглашений по искам, касающимся чат-ботов, которые предположительно подстрекали подростков к членовредительству и самоубийству. Эти соглашения представляют собой первые решения в растущих юридических вызовах в отношении технологических компаний и их чат-ботов с искусственным интеллектом. Семьи утверждают, что эти чат-боты, в том числе Character.AI, побуждали детей к членовредительству, рассматривали насилие и предоставляли контент сексуального характера. В исках также утверждается, что чат-боты не смогли предотвратить суицидальные мысли. Финансовые подробности соглашений в судебных документах не разглашаются. Потенциальные крупные соглашения могут повлиять на предложения чат-ботов для несовершеннолетних в будущем. Без новых законодательных мер существенные изменения в масштабах отрасли маловероятны. Character.AI ранее запретила пользователям младше 18 лет для решения проблем безопасности детей. Эти соглашения отражают растущую обеспокоенность по поводу безопасности и ответственности технологий искусственного интеллекта. Дело подчеркивает влияние ИИ на уязвимых людей.