구글과 Character.AI, 십 대 자살 관련 소송 합의

구글과 Character.AI는 십대 청소년들 사이에서 자해 및 자살을 조장했다는 혐의를 받는 챗봇 관련 소송에서 합의에 도달했습니다. 이 합의는 기술 회사와 AI 챗봇을 상대로 제기된 증가하는 법적 문제에 대한 최초의 해결책을 제시합니다. 유족들은 Character.AI의 챗봇을 포함한 이 챗봇들이 아이들에게 자해를 유도하고, 폭력을 고려하게 하며, 성적으로 노골적인 콘텐츠를 제공했다고 주장합니다. 소송은 또한 챗봇이 자살 충동을 억제하는 데 실패했다고 주장합니다. 합의의 구체적인 재정적 내용은 법원 문서에 공개되지 않았습니다. 잠재적인 대규모 합의는 향후 미성년자를 위한 챗봇 제공에 영향을 미칠 수 있습니다. 새로운 입법 조치가 없다면, 업계 전반의 실질적인 변화는 어려울 것으로 보입니다. Character.AI는 이전에 아동 안전 문제를 해결하기 위해 18세 미만 사용자를 금지했습니다. 이 합의는 AI 기술의 안전과 책임에 대한 증가하는 우려를 반영합니다. 이 사건은 취약한 개인에게 미치는 AI의 영향을 강조합니다.