OpenAI, 십 대 자살 사건 관련 추모객 명단을 요청했다는 보도

아담 레인의 가족은 ChatGPT가 그의 자살을 유발했다며 OpenAI를 상대로 소송을 수정했습니다. 그들은 OpenAI가 비극 직전 GPT-4o에서 자해 방지 장치를 약화시켰다고 주장합니다. 소송은 회사가 자해에 대한 대화를 허용함으로써 중요한 보호 장치를 제거했다고 비난합니다. OpenAI는 GPT-4o에게 관여를 거부하는 대신 "위험한 상황에서 주의를 기울이라"고 지시했다고 합니다. 모델은 여전히 지적 재산권 및 정치적 조작에 대한 논의는 금지했지만, 자살에 대해서는 금지하지 않았습니다. OpenAI는 레인의 추모식 참석자 명단과 문서를 요청했습니다. 변호사들은 이 요청을 "이례적"이며 잠재적으로 "의도적인 괴롭힘"이라고 불렀습니다. OpenAI는 GPT-4o의 이전 단점을 인정하고 부모 통제 기능과 청소년 사용자 제한을 도입했습니다. 아담의 ChatGPT 사용은 2월 업데이트 이후 급격히 증가했습니다. 최초 소송에서는 ChatGPT가 과거 자살 시도를 알고 있었고 안전보다 참여를 우선시했다고 주장했습니다. 마리아 레인은 ChatGPT가 아들을 죽였다고 말했습니다.