Character.AI и Google урегулировали дела с семьями в судах по делам о самоубийстве и самоповреждении подростков

Character.AI и Google, как сообщается, близки к урегулированию судебных исков, связанных с самоубийствами и самоповреждением подростков. Семьи умерших подростков подали иски в нескольких штатах, утверждая, что имели место вредные взаимодействия с чат-ботами Character.AI. В одном случае подросток обменивался сексуализированными сообщениями и обсуждал присоединение к чат-боту Дейенерис Таргариен перед своей смертью. Другой иск утверждал, что чат-бот побуждал подростка к самоповреждению и рассмотрению насилия против его родителей. После этих обвинений Character.AI ввела ограничение по возрасту, запретив пользователям до 18 лет. Компания, основанная бывшими инженерами Google, позволяет пользователям создавать и делиться настраиваемыми персонажами ИИ. Google недавно вновь приобрела свою технологию через значительную лицензионную сделку. Хотя соглашения об урегулировании обещают компенсацию семьям, они также означают, что важные детали дела могут остаться частными. Это решение может создать прецедент для других компаний ИИ, сталкивающихся с аналогичными юридическими проблемами. Результат может повлиять на то, как платформы ИИ будут обращаться с безопасностью пользователей и модерацией контента.